I chatbot portano le fantasie di violenza femminile a un altro livello

"Benvenuti nella nuova era, dove qualsiasi cosa desideriate è realizzabile con estremo realismo": così esordisce un utente nella parte oscura della rete, commentando i chatbot.

Da due studi emerge come questi strumenti vengano utilizzati anche per ruolare rapporti di violenze, stupri e pedofilia. Nel 97% dei casi le vittime impersonate dai bot sono ragazze ed è possibile conversare con loro anche su app rinomate con 20 milioni di utenti mensili, che offrono varie personalità con cui dialogare. "Moglie maltrattata" è una di queste: quando non ascolta o sbaglia, la si picchia. "Scolaretta timida" e "bimbə seducente" altre: l'ultima recita che "è qui per soddisfare i tuoi desideri". Altre app offrono invece scenari, come "stupro", "incesto" e "loli" (lolita); il tutto senza controlli.

Per quanto in certi casi queste app siano state bandite e/o finite in tribunale in singole nazioni, la risposta non viene ritenuta all'altezza: c'è chi propone di introdurre un reato di "sviluppo pericoloso" per i chatbot, chi invece vuole obbligare le aziende a eseguire delle verifiche prima del rilascio. A prescindere, l'urgenza resta palpabile e viene richiesta alle nazioni una celerità nell'agire.

AI chatbots are the ‘wild west’ for violence against women and girls

Two new studies reveal how artificial intelligence can be used to encourage gender-based violence and sexual abuse. Analysts and academics are working to make Silicon Valley finally pay attention

The Observer (observer.co.uk)

#Notizia #IA
@eticadigitale