Un esempio semiserio per spiegare la questione del rallentamento e della sicurezza delle IA.

Raramente Cassandra ha avuto così tante interazioni sul tema di una delle sue esternazioni.

Ma, soprattutto, mai si era resa conto di come il nocciolo della questione, anzi della esternazione , fosse stato frainteso, anzi ignorato.

E’ pur vero che le profetesse del passato amavano parlare per enigmi, ma non è il caso di Cassandra, che sente come sua colpa e responsabilità di questa “incomprensione”.

Quindi oggi vi ammannisce una “seconda puntata” di precisazioni, condendola anche con un pizzico di leggerezza.

*Una mattina il macellaio usci dal proprio negozio, ed in mezzo alla strada annunciò con voce tonante “Quelli che mangiano la carne potrebbero morire tutti nel giro di 10 anni”.

Pochi minuti dopo anche il salumiere uscì in strada ed annunciò “Anche chi mangia insaccati potrebbe morire in 10 anni.”

A fine mattinata sul sito del produttore di hamburger apparve l’annuncio “Il macellaio ed il salumiere hanno ragione.”.*
E la sera tutti i telegiornali annunciarono la pericolosità della carne come notizia di apertura, ed il giorno dopo le riviste ed i salotti televisivi si riempiono di dotti pareri e sagge elucubrazioni. A sera le azioni dei produttori di carne erano un po’ scese, ma nemmeno tanto.

Se a teatro questo fosse stato l’inizio di una commedia forse vi sareste alzati all’intervallo per andare via; sarebbe stata troppo sconclusionata per essere anche solo divertente.

Ma il 24 informatissimi lettori avranno immediatamente riconosciuto in quanto sopra una allegoria degli annunci, anzi dello show di Amodei, Altman e Musk, e dei fatti che ne sono immediatamente seguiti.

Quindi ora beccatevi il punto di vista di Cassandra, congelato in un brevissimo “botta e risposta”, che spero sia chiaro. Profezia personale, ovviamente.

Gli annunci sono veri o sono una sceneggiata concordata?

Gli annunci sono una sceneggiata, anzi una manovra mediatica collettiva accuratamente progettata.

Ma se sono una sceneggiata, quale è lo scopo?

Lo scopo è spostare l’attenzione del mondo finanziario e del pubblico, distogliendola dal fallimento commerciale degli LLM e dalla follia di un mondo pieno di datacenter, ri-orientandola verso altre problematiche, coinvolgenti ma secondarie, come la sicurezza.

Perché? L’IA non è pericolosa? Non è possibile che ci uccida tutti?

La finanza degli LLM è il vero pericolo, perché provocherà danni certi a moltissime persone. Ritardare lo scoppio della bolla permette a chi la controlla di continuare a guadagnare. La strada scelta è di rallentare i programmi, peraltro impossibili, per la costruzione dei datacenter, che oltretutto resterebbero inerti per mancanza di clienti se venissero realizzati.

Per questo la sceneggiata è stata semplice da organizzare; in realtà tutti difendono degli interessi comuni.

Gli LLM non sono particolarmente più pericolosi di altre nuove tecnologie, e non ci sono tracce od annunci di qualcosa di sostanzialmente diverso e più pericoloso degli LLM, come la tanto mitizzata AGI automigliorante.

I pericoli, reali ed attuali, che corriamo a causa dell’IA sono la sperimentazione e l’utilizzo, folli ed incontrollati, che OpenAI ed Anthropic fanno degli agenti software parzialmente autonomi, sguinzagliandoli senza limiti in una Internet fragile.

Una Internet che permette loro il potenziale accesso alle reti energetiche e di logistica, esponendoci tutti ai rischi di un possibile collasso di esse.

Quindi il controllo indipendente delle attività che viene richiesto per consentire il “rallentamento” dell’IA è cosa buona e giusta?

No, perché nella pratica è una novità impossibile da attuare, che quindi sarebbe solo un pannicello caldo. Oltretutto, se si riuscisse davvero a realizzarlo, introdurrebbe il rischio di un controllo politico e governativo esplicito, ancora più preoccupante di quello “nascosto” già esistente.