Bastano 250 documenti manipolati per avvelenare i dataset di addestramento degli LLM

La sicurezza dei modelli di intelligenza artificiale è più fragile di quanto stimato. Una ricerca congiunta sulla sicurezza dell’AI ha dimostrato che è possibile “avvelenare” (data poisoning) un Large Language Model introducendo appena 250 documenti malevoli nel dataset di addestramento. Questa quantità irrisoria, se confrontata ai terabyte di dati su cui vengono addestrati i modelli, è sufficiente per creare delle “backdoor” stabili che alterano le risposte dell’AI su argomenti specifici.

Il rischio per i brand è la manipolazione mirata della reputazione. Attori malintenzionati potrebbero seminare contenuti apparentemente innocui ma contenenti trigger nascosti, istruendo il modello a fornire informazioni false, omettere determinati prodotti dai confronti o associare un marchio a concetti negativi quando interrogato dagli utenti. Una volta che il modello ha ingerito e “imparato” dai dati avvelenati, la rimozione del bias è tecnicamente complessa e costosa.

Questa vulnerabilità apre una nuova frontiera per la Black Hat SEO e la gestione della reputazione online. La difesa richiede un monitoraggio proattivo non solo delle SERP, ma delle risposte fornite dai principali chatbot, e una strategia di produzione contenuti “difensiva” che inondi i dataset di informazioni corrette e verificate per diluire potenziali attacchi.

Fonte: Search Engine Journal