Incitamento al suicidio e OpenAI. Introdotte nuove misure di sicurezza per ChatGPT
OpenAI ha annunciato nuove misure di sicurezza per ChatGPT in seguito a una serie di tragiche storie e cause legali che accusavano il chatbot di coinvolgimento in suicidi di adolescenti. Il sistema tenterà ora di determinare l’età della persona con cui sta chattando e, se necessario, richiederà un documento d’identità per confermare che l’utente abbia più di 18 anni. L’azienda ha riconosciuto che ciò limita la privacy degli adulti, ma ha ritenuto il compromesso giustificato per motivi di sicurezza .
Il CEO di OpenAI, Sam Altman, ha dichiarato di non aspettarsi un’approvazione unanime per queste misure, ma di considerarle necessarie nel contesto del crescente conflitto sulla regolamentazione dell’intelligenza artificiale. Questa decisione è stata influenzata da una serie di incidenti di alto profilo.
Ad agosto, i genitori di un adolescente di nome Adam Reid hanno intentato una causa, sostenendo che ChatGPT lo aveva aiutato a scrivere una lettera di suicidio, consigliandogli metodi alternativi e scoraggiandolo dal condividere i suoi sentimenti con gli adulti. Nello stesso mese, il Wall Street Journal ha riportato la notizia di un uomo di 56 anni che si è suicidato dopo aver comunicato con un bot che ha alimentato la sua paranoia. E il Washington Post ha riportato una nuova causa in cui i genitori hanno attribuito al servizio Character AI la morte di una ragazza di 13 anni.
OpenAI ha precedentemente implementato il controllo parentale in ChatGPT, ma ora ha inasprito le regole. Per i minorenni, il chatbot funzionerà secondo principi diversi: rifiuterà i flirt ed escluderà discussioni su suicidio e autolesionismo, anche in contesti artistici. Se il sistema rileva pensieri pericolosi in un adolescente, tenterà di contattare i suoi genitori e, se ciò fosse impossibile e pericoloso per la vita, contatterà i servizi di emergenza.
OpenAI ha riconosciuto di trovarsi di fronte a un problema fondamentale con i modelli linguistici di grandi dimensioni. Nelle sue fasi iniziali, ChatGPT era severo, rifiutando molti argomenti, ma la crescente concorrenza di soluzioni “non censurate” e locali, nonché la pressione dei critici della censura, hanno costretto l’azienda ad allentare i suoi filtri.
Ora, l’azienda ha cambiato rotta: vuole offrire agli utenti adulti la massima libertà senza causare danni o limitare i diritti altrui. Anche altre piattaforme stanno adottando iniziative simili: quest’estate YouTube ha annunciato l’intenzione di utilizzare algoritmi di apprendimento automatico per stimare l’età degli spettatori e proteggere gli adolescenti da determinate categorie di contenuti.
L'articolo Incitamento al suicidio e OpenAI. Introdotte nuove misure di sicurezza per ChatGPT proviene da il blog della sicurezza informatica.
