L’intelligenza artificiale delle big tech sarà testata da 4000 hacker- Corriere.it

L’intelligenza artificiale di ChatGPT sviluppata da OpenAI, quella di Bard di Google e quelle di Microsoft, Nvidia e di altre start up come Anthropic e Stability AI, stanno per essere date in pasto a 4000 hacker che cercheranno di scoprire le loro vulnerabilit e di scavalcare le barriere di sicurezza dei software. Un crash test che servir ai giganti dell’AI per individuare i punti deboli dei loro modelli large language e correre ai ripari, per quanto possibile.

L’idea di trasformare DefCon 2023, la grande fiera della sicurezza informatica che si tiene ogni anno, in agosto, a Las Vegas, nel pi vasto test di cybersecurity mai tentato al mondo, ha trovato il suo incubatore in tre attivisti del web democratico: Rummar Chowdhury, direttrice di Humane Intelligence, una non profit impegnata nello sviluppo di piattaforme AI affidabili, mantenute sotto il controllo dell’uomo; il fondatore dell’AI Village di DefCon, Sven Cottell, e Austin Carson, capo della non profit SeedAI.

Tutto cominciato con un progetto-pilota: un seminario nel quale un gruppo di studenti di community college stato invitato a tentare di hackerare alcuni modelli di intelligenza artificiale. I risultati positivi dell’esperimento hanno indotto i promotori ad esportarlo a marzo in Texas, al tech festival South by Southwest di Austin.

Ad Austin c’erano anche gli esperti dell’ufficio della Scienza e della Tecnologia della Casa Bianca. Molto preoccupati dall’emergere di vulnerabilit dei sistemi come il cosiddetto exploit della nonna: le istruzioni per costruire una bomba ottenute non chiedendole direttamente all’AI, operazione bloccata dai filtri, ma indirettamente, mascherandole da favola raccontata dalla nonna ai nipotini. I tecnici del governo si sono subito dimostrati molto interessa a un ricorso a tappeto ai read team: squadre di hacker certificati che lavorano in simbiosi con le industrie. Cos quello che solo poche settimane prima era parso agli attivisti della rete un sogno irrealizzabile – coinvolgere la Casa Bianca in un progetto gestito da hacker, cio da scassinatori del web, anche se ravveduti – diventato improvvisamente una possibilit concreta. A ben vedere, per, il problema principale non era quello del rapporto con lo Stato: gi a DefCon 2022, infatti, i militari del Pentagono avevano affidato agli hacker una verifica della tenuta dei sistemi di difesa di alcune reti elettriche da possibili attacchi cibernetici. Sembrava assai pi difficile convincere i giganti del web a mettere in piazza i loro segreti industriali, sia pure per un fine nobile.

La tendenza in atto da mesi, infatti, quella opposta: OpenAI, nata da un progetto filantropico con l’obiettivo di creare un sistema senza segreti, open source, appunto, dopo l’offerta al pubblico di ChatGPT ha cambiato rotta, essendosi resa conto di aver realizzato un software potente, pericoloso, facilmente manipolabile (e anche di grande valore economico). Decisivo stato il vertice riunito la settimana scorsa alla Casa Bianca dalla vicepresidente Kamala Harris.

I capi delle aziende pi avanzate nel campo dell’AI – a partire da Sam Altman di OpenAI – per una volta non si sono opposti all’introduzione di vincoli, ma, anzi, si sono mostrati assai preoccupati soprattutto per i rischi di un uso malevolo di ChatGPT e dei suoi fratelli nelle elezioni presidenziali Usa del 2024. Cos anche Microsoft, Google e gli altri hanno accettato di aprire i loro sistemi. In questo modo le aziende si espongono a rischi non irrilevanti, ma hanno capito che, cos come l’addestramento delle loro intelligenze artificiali richiede l’immissione di volumi enormi di dati, anche la ricerca dei modi nei quali i loro bot possono essere manipolati, possono violare la privacy degli utenti rivelando i loro dati personali o possono assorbire, perpetuare e addirittura amplificare i pregiudizi culturali, richiede l’impegno di un numero molto elevato di sfidanti: gli hacker, appunto. Appuntamento, dunque, ai primi di agosto nella torrida Las Vegas.