Slack accusata di usare i dati degli utenti per addestrare l’AI

A metà maggio, Slack ha suscitato diverse proteste tra i suoi clienti. La società è stata accusata di aver addestrato i suoi modelli di intelligenza artificiale e di apprendimento automatico con dati sensibili degli utenti, come messaggi e file. I report si basavano sulle informazioni dichiarate nella documentazione della policy sulla privacy dell’azienda, dove Slack afferma che: “L’apprendimento automatico (Machine Learning, ML) e l’intelligenza artificiale (IA) sono strumenti utili che usiamo in modi limitati per migliorare la missione dei nostri prodotti. Non sviluppiamo modelli linguistici di grandi dimensioni (LLM) o altri modelli generativi utilizzando i dati dei clienti. Per sviluppare modelli IA/ML non generativi per funzioni come consigli su canali ed emoji, i nostri sistemi analizzano i Dati del cliente (ad esempio messaggi, contenuti e file) inviati a Slack nonché le Altre informazioni (comprese le informazioni sull’utilizzo) come definito nella nostra Informativa sulla privacy e nel nostro accordo con il cliente”.

Questa infelice formulazione implica che l’azienda stia effettivamente leggendo il contenuto dei messaggi e degli allegati trasmessi. Inoltre, utilizza questo contenuto per addestrare i suoi modelli a migliorare alcune delle funzionalità dell’app. L’uso dei dati dei clienti per addestrare l’intelligenza artificiale sta diventando una tendenza spiacevole nel mondo della tecnologia. Quindi, una pratica del genere non sarebbe una grande sorpresa.

Slack: i modelli AI non imparano, memorizzano o riproducono i dati dei clienti

Slack ha assicurato che non sta scansionando il contenuto dei messaggi per addestrare i modelli di intelligenza artificiale. Come riportato dal sito Neowin: “Dal 2017 Slack utilizza l’apprendimento automatico per altre funzionalità intelligenti (come la pertinenza dei risultati di ricerca, il posizionamento, ecc.). Questo è alimentato da dati aggregati e non identificati sul comportamento degli utenti. Tali pratiche sono standard del settore e questi modelli di apprendimento automatico non accedono al contenuto del messaggio originale nei DM, nei canali privati o nei canali pubblici per fornire questi suggerimenti”. Slack ha anche chiarito che tipo di dati potrebbero essere utilizzati per addestrare i suoi "modelli globali". Questi includono timestamp dell'ultimo messaggio inviato in un canale, il numero di interazioni tra due utenti o il numero di parole che si sovrappongono tra il nome di un canale e altri canali.

L'azienda dichiara di usare tecniche di apprendimento automatico standard del settore e che la privacy degli utenti è sempre protetta. Inoltre, specifica anche che non crea o addestra modelli in modo che questi possano "imparare, memorizzare o riprodurre i dati dei clienti." Un'altra reazione negativa da parte dei clienti è stata scatenata dall'utilizzo da parte di Slack dei dati su base opt-out.  Infine, per rendere le cose ancora più confuse, l'azienda offre anche il componente aggiuntivo Slack AI, come prodotto separato. Tuttavia, questo componente aggiuntivo di intelligenza artificiale generativa si basa su modelli linguistici di grandi dimensioni (LLM) di terze parti, non sviluppati o addestrati da Slack e dai dati dei suoi clienti.