I chatbot portano le fantasie di violenza femminile a un altro livello

"Benvenuti nella nuova era, dove qualsiasi cosa desideriate è realizzabile con estremo realismo": così esordisce un utente nella parte oscura della rete, commentando i chatbot.

Da due studi emerge come questi strumenti vengano utilizzati anche per ruolare rapporti di violenze, stupri e pedofilia. Nel 97% dei casi le vittime impersonate dai bot sono ragazze ed è possibile conversare con loro anche su app rinomate con 20 milioni di utenti mensili, che offrono varie personalità con cui dialogare. "Moglie maltrattata" è una di queste: quando non ascolta o sbaglia, la si picchia. "Scolaretta timida" e "bimbə seducente" altre: l'ultima recita che "è qui per soddisfare i tuoi desideri". Altre app offrono invece scenari, come "stupro", "incesto" e "loli" (lolita); il tutto senza controlli.

Per quanto in certi casi queste app siano state bandite e/o finite in tribunale in singole nazioni, la risposta non viene ritenuta all'altezza: c'è chi propone di introdurre un reato di "sviluppo pericoloso" per i chatbot, chi invece vuole obbligare le aziende a eseguire delle verifiche prima del rilascio. A prescindere, l'urgenza resta palpabile e viene richiesta alle nazioni una celerità nell'agire.

AI chatbots are the ‘wild west’ for violence against wome...

Two new studies reveal how artificial intelligence can be used to encourage gender-based violence and sexual abuse. Analysts and academics are working to make Silicon Valley finally pay attention

The Observer (observer.co.uk)

#Notizia #IA
@eticadigitale