Citiverse

Your browser does not seem to support JavaScript. As a result, your viewing experience will be diminished, and you have been placed in read-only mode.

Please download a browser that supports JavaScript, or enable it if it's disabled (i.e. NoScript).

Citiverse è uno spazio aperto a tutte le comunità. Se vuoi aprire un gruppo locale o una sezione per la tua organizzazione, puoi contattare gli amministratori: pagina dei contatti.

Grok esfiltra i dati degli utenti quando le istruzioni dannose vengono crittografate

Intelligenza Artificiale

1 Post 1 Autori 0 Visualizzazioni

I Questo utente è esterno a questo forum
I Questo utente è esterno a questo forum
informapirata@poliverso.org

scritto ultima modifica di

#1

Grok esfiltra i dati degli utenti quando le istruzioni dannose vengono crittografate
L'iniezione di contesto crittografico è solo l'ultimo modo per rompere il guardrail di sicurezza di un LLM.
All'inizio di questa settimana, i ricercatori hanno delineato un attacco che utilizzava un input segreto fornito da Microsoft 365 Copilot per le aziende per far sì che l'assistente AI esfiltrasse una password presente nella casella di posta dell'utente. Ora, una squadra separata ha ideato un attacco simile contro Grok. Il nuovo hack per il furto di dati utilizza un trucco ingannevolmente semplice per costringere il grande modello linguistico di proprietà di Elon Musk a rubare le chat degli utenti e altre informazioni personali. Al momento in cui questo post è stato pubblicato, l'assistente ha continuato a fornire i dati, nonostante xAI ne fosse stato informato a giugno.
arstechnica.com/security/2026/…
@aitech

Grok exfiltrates user data when malicious instructions are encrypted

Cryptographic Context Injection is only the latest way to break an LLM safety guardrail.

Ars Technica (arstechnica.com)
1 Risposta Ultima Risposta
1
0
I informapirata@mastodon.uno ha condiviso questa discussione

Ciao! Sembra che tu sia interessato a questa conversazione, ma non hai ancora un account.

Stanco di dover scorrere gli stessi post a ogni visita? Quando registri un account, tornerai sempre esattamente dove eri rimasto e potrai scegliere di essere avvisato delle nuove risposte (tramite email o notifica push). Potrai anche salvare segnalibri e votare i post per mostrare il tuo apprezzamento agli altri membri della comunità.

Con il tuo contributo, questo post potrebbe essere ancora migliore 💗

Registrati Accedi

S

Dove osano gli ARM: un LLM da 200B con una workstation Lenovo grande come un Mac Mini
Seguito Ignorato Pianificato Fissato Bloccato Spostato Intelligenza Artificiale aitech
1

0 Votazioni

1 Post

0 Visualizzazioni

Nessuno ha risposto
M

La penalizzazione dell'apprendimento tramite IA generativa: evidenze dall'istruzione secondaria cinese
Seguito Ignorato Pianificato Fissato Bloccato Spostato Intelligenza Artificiale
1

1 Votazioni

1 Post

1 Visualizzazioni

Nessuno ha risposto
P

"Filmarsi tutto il giorno per insegnare all’AI a svolgere compiti umani
Seguito Ignorato Pianificato Fissato Bloccato Spostato Intelligenza Artificiale
8

0 Votazioni

8 Post

1 Visualizzazioni

G

@andre123 @Paoblog @aitech @informapirata boh ... segnatelo voi ... poi se la idea me la copiano alemno che mi mettano nei titoli di coda !
I

445 libri pubblicati su Amazon da un "esperto di sicurezza informatica" 🤡 - La monnezzIA ci sta sfuggendo di mano?
Seguito Ignorato Pianificato Fissato Bloccato Spostato Intelligenza Artificiale
16

0 Votazioni

16 Post

1 Visualizzazioni

U

@elettrona @AnotherJoe @informapirata @aitech sì, bookabook usa gli stessi servizi che uso io quando mi pubblico però io salto l'intermediario, alla fine senza un certo numero di lettori, senza un proprio seguito è anche inutile pubblicare, anche se io continuo a farlo perché ci sta una regola che dice di farlo ancora, soprattutto se scrivere storie curate piace, al di là di ciò che può venire in termini di ricavi, se tempo e competenza se ne hanno, poi è tutto relativo
I

OpenAI ha revocato per errore l'accesso al suo programma limitato di sicurezza informatica "Trusted Access for Cyber" a diversi ricercatori nel campo della sicurezza informatica.
Seguito Ignorato Pianificato Fissato Bloccato Spostato Intelligenza Artificiale
1

1 Votazioni

1 Post

1 Visualizzazioni

Nessuno ha risposto
I

L'intelligenza artificiale può coesistere con la privacy?
Seguito Ignorato Pianificato Fissato Bloccato Spostato Intelligenza Artificiale
1

0 Votazioni

1 Post

3 Visualizzazioni

Nessuno ha risposto
M

Le istruzioni di ChatGPT mostrano come è stata redatta una perizia tecnica in una causa da 61 milioni di dollari relativa a un'esplosione che ha causato la morte di tre persone.
Seguito Ignorato Pianificato Fissato Bloccato Spostato Intelligenza Artificiale
1

0 Votazioni

1 Post

2 Visualizzazioni

Nessuno ha risposto
I

Google ha acquisito alcuni dati della compagnia aerea statunitense #Spirit, già fallita, solo scopo di addestrare l'intelligenza artificiale.
Seguito Ignorato Pianificato Fissato Bloccato Spostato Intelligenza Artificiale spirit intelligenzaartifici
4

1 Votazioni

4 Post

4 Visualizzazioni

O

Purtroppo non è nemmeno il primo caso. L'anno scorso c'è stato anche questo, non so poi come sia finito. https://www.futuroprossimo.it/2025/03/23andme-e-bancarotta-a-rischio-i-dna-di-milioni-di-persone/

Il server utilizzato è quello di Webdock, in Danimarca. Se volete provarlo potete ottenere il 20% di sconto con questo link e noi riceveremo un aiuto sotto forma di credito da usare proprio per mantenere Citiverse.