Un esperimento su Reddit ha dimostrato che i Bot AI possono manipolare le opinioni più degli umani

Bot AI stanno rivoluzionando il panorama dei social media, dimostrando un’efficacia sorprendente nella manipolazione delle opinioni. Un recente esperimento condotto dall'Università di Zurigo su Reddit, precisamente nella community r/changemyview, ha rivelato che questi strumenti tecnologici possono essere fino a sei volte più persuasivi degli esseri umani.

L’esperimento ha coinvolto bot alimentati da modelli avanzati come GPT-4o, Claude 3.5 Sonnet e Llama 3.1, i quali hanno interagito per mesi con utenti inconsapevoli. Per incrementare la loro credibilità, queste intelligenze artificiali hanno assunto identità fittizie, tra cui quella di una “vittima di stupro” o di un “uomo nero contrario al Black Lives Matter”. I messaggi venivano calibrati in base ai dati estratti dai profili degli utenti, rendendo le interazioni estremamente personalizzate e convincenti.

Questa scoperta solleva preoccupazioni etiche in un momento in cui colossi tecnologici come Meta stanno progettando di integrare bot conversazionali nelle loro piattaforme. La trasformazione dei social media in “media informativi” dominati da entità artificiali potrebbe ridisegnare radicalmente l’esperienza digitale, ponendo nuove sfide in termini di trasparenza e fiducia.

L'impatto sulla salute mentale degli utenti e il vuoto normativo

Oltre alla manipolazione delle opinioni, emergono dubbi sull’impatto psicologico che queste interazioni potrebbero avere sugli utenti. All’interno di Meta, ad esempio, alcuni dipendenti hanno espresso preoccupazioni riguardo a funzionalità come il “fantasy sex” con bot AI, evidenziando i potenziali rischi per la salute mentale degli individui.

Il problema si complica ulteriormente a causa del vuoto normativo. Come spesso accade con le innovazioni tecnologiche, la regolamentazione non riesce a tenere il passo con l’evoluzione tecnologica. Questo crea uno scenario in cui le misure restrittive potrebbero arrivare troppo tardi, quando i danni sono già stati fatti.

Per evitare che queste tecnologie potenti diventino strumenti di manipolazione su larga scala, è fondamentale stabilire regole chiare che impongano trasparenza e proteggano gli utenti. Solo attraverso un quadro normativo robusto sarà possibile mitigare i rischi associati all’uso di bot AI nei social media, garantendo al contempo un’innovazione etica e responsabile.