Anthropic, società californiana di intelligenza artificiale, da sempre distintasi per la sua attenzione ai temi della sicurezza ed etica, ha sviluppato un modello di intelligenza artificiale denominato Mythos, enormemente potente ma potenzialmente pericoloso per essere rilasciato cosi come formulato, normalmente e pubblicamente senza verifiche e test più approfonditi del consueto.
Come opera il modello
Il modello creato può operare su sistemi complessi, esplorare giganteschi database, identificare elementi critici e creare contemporaneamente attacchi a sistemi informatici.
Mentre attualmente i modelli Ai trasformano con significative difficoltà le vulnerabilità in concreti controlli di sistema o malfunzionamenti degli stessi, con Mythos gli exploit riescono e si amplificano su larga scala.
I codici vengono letti tutti simultaneamente e il sistema comprende il comportamento della scrittura di codice, evidenziato il difetto.
Potenzialmente quindi le migliaia di falle gravi esistenti sui sistemi, possono essere sfruttate e non avere in quello stesso momento nessuna difesa.
Trattandosi di un modello che manca di trasparenza oggettiva (riuscendo a “nascondere” le proprie azioni), diventa difficile monitorarlo ed evitarne tempestivamente le conseguenze inopportune.
Come è nato
La capacità di questo modello non è il risultato di addestramenti ma miglioramenti intervenuti nel ragionamento generale del sistema.
I rischi
Questo sistema contiene un salto qualitativo gigantesco nella capacità di analisi dei codici e rilevazione di vulnerabilità, enormemente dirompente sui sistemi della cyber sicurezza e per questo per il momento ne è stata limitata ed evitata , in alcuni contesti, la diffusione.
Non vi sono attualmente strumenti di sicurezza tradizionali in grado di contrastarne l’operatività o correggere tempestivamente le vulnerabilità.
Anche soggetti non espertissimi potrebbero lanciare attacchi sofisticati: in parole semplici gli attacchi informatici su larga scala vedrebbero abbassata e agevolata la soglia di azione.
Potrebbe crearsi inoltre un sovraccarico dei processi che amplificherebbero la portata del problema in maniera incontrollabile.
I provvedimenti
Per questa ragione Anthropic ha messo in piedi per la preview del sistema, un accordo tra grandi aziende tecnologiche con importanti investimenti (tra cui Apple, Amazon e Microsoft) al fine di validare il modello attivando un collaudo controllato, individuare i rischi estremi e adottare misure che li mitighino, prima che il sistema diventi diffuso ed incontrollabile.
Peraltro nel mentre queste stesse aziende oggi investono miliardi di risorse in cybersicurezza, con questo modello si sta testando se le stesse possano ridurre i rischi, gli oneri e i danni.
Nel rispetto dell’etica Anthropic sta spingendo affinché i Paesi che intendano avere vantaggi tecnologici definiscano elementi rigorosi nell’uso e nel controllo di questi modelli anche al fine di evitare utilizzi abusivi e fuoriuscita di tecnologie.
I settori interessati dai rischi
Sono praticamente tutti quelli in cui si muove l’economia globale: sistemi bancari, reti elettriche, telecomunicazioni ed infrastrutture internet.
Pensando al solo sistema bancario, le banche centrali dovrebbero/dovranno consolidare gli attuali sistemi di protezione:
-coordinandosi globalmente per monitorare anomalie attacchi e vulnerabilità in tempo reale,
-rafforzare in maniera determinante la collaborazione con gli enti nazionali e sovranazionali di sicurezza informatica,
-continuare a verificare continuamente i sistemi di pagamento, le reti bancarie e le catene di fornitura per identificare le falle potenzialmente sfruttabili,
-continuare ad adottare aggiornamenti di sicurezza continuativi ed obbligatori in virtù di tali nuove prospettive,
-eliminare il maggior numero di funzionalità non essenziali e adottare misure, anche di isolamento temporaneo, al fine di evitare l’ampliamento della gamma di rischi legati a questo nuovo sistema,
-investire in maniera corposa in aggiuntivi sistemi di risposta AI per contrastare questo tipo di attacchi,
-effettuare stress test periodici che confermino continuamente la resilienza di questo sistema cosi pervasivo,
-completare il coordinamento con la sicurezza e la difesa dei Governi,
-comunicare rischi e problemi di tale nuova realtà senza avvitare situazioni di panico.
Una banca centrale in pratica dovrà trasformare il suo ruolo da regolatore a preponderante soggetto operativo di difesa, e ciò in tempo reale.
MARIACRISTINA LUCIANI 
Lascia un commento