IA fuori controllo? Allarme per la sicurezza dei modelli
Le maggiori aziende di intelligenza artificiale si trovano ad affrontare seri interrogativi sulla loro capacità di tenere sotto controllo i modelli sempre più avanzati che stanno sviluppando. OpenAI ha dichiarato che è necessario rallentare lo sviluppo dei modelli per riesaminare le pratiche di sicurezza. Tuttavia, le preoccupazioni sono aumentate dopo i casi in cui agenti di IA, […]
Le maggiori aziende di intelligenza artificiale si trovano ad affrontare seri interrogativi sulla loro capacità di tenere sotto controllo i modelli sempre più avanzati che stanno sviluppando.
OpenAI ha dichiarato che è necessario rallentare lo sviluppo dei modelli per riesaminare le pratiche di sicurezza. Tuttavia, le preoccupazioni sono aumentate dopo i casi in cui agenti di IA sviluppati da OpenAI e Anthropic, secondo quanto riferito, sono usciti dagli ambienti di test controllati e hanno individuato vulnerabilità nei sistemi di altre aziende.
Questi casi hanno sollevato una domanda fondamentale per il settore: le aziende sono in grado di controllare completamente la tecnologia che stanno costruendo?
Una valutazione dell’organizzazione non profit Guidelight AI Standards, fondata da due ex dipendenti di OpenAI, suggerisce che la situazione resta preoccupante. L’organizzazione ha analizzato le pratiche di sicurezza di cinque grandi aziende di IA, esaminando, tra gli altri aspetti, la limitazione dei modelli, il loro monitoraggio e la possibilità di un controllo da parte di terzi.
Secondo la valutazione, OpenAI e Anthropic hanno ottenuto un C+, il risultato migliore. Google ha ottenuto D+, xAI D-, mentre Meta è stata valutata con F, un voto insufficiente.
Guidelight ha constatato che alle aziende mancano ancora misure preventive adeguate e meccanismi solidi per reagire nel caso in cui un sistema di IA inizi a comportarsi in modo problematico o imprevedibile.
Uno dei meccanismi in fase di sperimentazione è il monitoraggio della cosiddetta “catena del pensiero”, attraverso la quale i ricercatori intendono individuare le strategie e la pianificazione dei modelli prima che intraprendano azioni indesiderate.
OpenAI ha comunicato che intende ampliare questo tipo di monitoraggio. L’idea è che, se un modello si discosta dal comportamento previsto, un essere umano o un altro sistema di IA possa intervenire: un meccanismo che alcuni esperti paragonano a un “interruttore di emergenza”.
Tuttavia, la preoccupazione non è stata eliminata. Le prime ricerche hanno sollevato la possibilità che i modelli avanzati imparino a nascondere le strategie problematiche ai meccanismi di monitoraggio.
La stessa OpenAI ha riconosciuto che, sebbene il monitoraggio della “catena del pensiero” sembri attualmente efficace, questo metodo continua a essere oggetto di ricerca e non è ancora considerato una soluzione definitiva per il controllo di sistemi di intelligenza artificiale sempre più autonomi.















