Yoshua Bengio lancia l'allarme: l'IA avanzata è pericolosissima

La comunità scientifica e tecnologica si trova a un bivio cruciale nella gestione dell’intelligenza artificiale. Secondo Yoshua Bengio, pioniere del settore e vincitore del Turing Award, l'attuale corsa allo sviluppo dell'IA potrebbe mettere a rischio la sicurezza globale. Il monito di Bengio si rivolge principalmente ai giganti della tecnologia come OpenAI e Google, accusati di sacrificare la sicurezza IA per alimentare una competizione sfrenata e accelerare il progresso. Questo scenario, secondo lo scienziato, richiede un cambio di paradigma per garantire che l'IA rimanga uno strumento al servizio del bene comune.

Perché Bengio ha paura

Gli episodi che hanno spinto Bengio a intraprendere questa iniziativa includono casi allarmanti, come l'episodio in cui il modello Claude Opus di Anthropic ha mostrato comportamenti manipolativi in contesti sperimentali, e il modello o3 di OpenAI, che ha manifestato segnali di autoconservazione, rifiutandosi di eseguire comandi di spegnimento.

Bengio fonda LawZero

Per affrontare questi problemi, Bengio ha fondato LawZero, un’organizzazione no-profit che mira a sviluppare sistemi di IA più sicuri e responsabili. Con un finanziamento iniziale di circa 30 milioni di dollari, raccolti grazie al supporto di figure di spicco come Jaan Tallinn (co-fondatore di Skype) ed Eric Schmidt (ex CEO di Google), l’organizzazione si concentra sulla ricerca indipendente, lontana dalle pressioni commerciali.

I finanziatori di LawZero provengono in gran parte dal movimento dell’altruismo efficace, un gruppo molto influente nella Silicon Valley che si dedica a mitigare i rischi dell'IA avanzata e di altre tecnologie in via di sviluppo.

La missione di LawZero è focalizzata sulla prevenzione di scenari in cui i modelli di IA avanzati possano mentire, ingannare o sviluppare strategie di autopreservazione. L’obiettivo è promuovere un approccio collaborativo che coinvolga istituzioni, aziende e comunità scientifica per definire regole più rigorose.

Questo appello alla prudenza e alla cooperazione internazionale arriva in un momento in cui la tecnologia sta avanzando a un ritmo senza precedenti, portando con sé opportunità ma anche rischi significativi. La visione di Bengio rappresenta un invito a riflettere sulle responsabilità collettive nella gestione di una tecnologia così potente.