Verificare le risposte dell’AI (allucinazioni)

Cosa sono le allucinazioni

Un’allucinazione è quando il modello afferma con sicurezza qualcosa di falso: statistiche inventate, leggi inesistenti, URL che non esistono, nomi di prodotti mai rilasciati, date sbagliate, citazioni apocrife. Non è un bug occasionale: è conseguenza del fatto che il sistema ottimizza plausibilità linguistica, non verità. Su pagine pubbliche una sola cifra inventata può distruggere credibilità o esporre a reclami.

Tipi comuni sul web

Prezzi e tempi di consegna non allineati al CRM; riferimenti normativi («decreto 2024/XYZ»); studi scientifici citati senza DOI; link blog che restituiscono 404; traduzioni che cambiano significato legale; biografie autore con premi mai ricevuti. In SEO, dati su parole chiave inventati. Collega la qualità della pubblicazione a linee guida Google su contenuti utili: un fatto falso su una pagina YMYL può costare più di una frase generica su un blog leggero.

Fact-check a tavolino

Evidenzia ogni numero, data, nome proprio, percentuale, requisito legale. Per ciascuno: fonte interna approvata o documento ufficiale (Gazzetta, sito ministero, datasheet fornitore). Se non verifichi, rimuovi o generalizza («i tempi variano, contattaci»). Due persone su contenuti YMYL. Registra la fonte in nota interna nel CMS e, per i prezzi sul sito, non affidarti mai a una bozza che non sia collegata a un export aggiornato dal gestionale.

Fonti e ricerca

Modelli con browsing possono ancora citare pagine sbagliate: apri tu l’URL. Preferisci fonti primarie. Per notizie recenti non affidarti alla memoria del modello oltre la data di cutoff. Incolla estratti verificati nel prompt successivo con prompt efficaci invece di chiedere «cerca su internet» senza controllo umano sul risultato.

Prompt di auto-verifica

Ecco il testo da pubblicare (incolla).
Elenca SOLO le affermazioni verificabili (fatti, numeri, leggi, URL).
Per ciascuna indica: VERIFICATO se presente nel CONTENUTO_FONTE sotto,
DA_VERIFICARE se non c’è fonte, RIMUOVERE se inventata.
Non aggiungere nuove affermazioni.
CONTENUTO_FONTE:
(incolla policy aziendale / preventivo / estratto ufficiale)

Il secondo passo lo fa sempre un umano per le righe DA_VERIFICARE.

Allucinazioni nel codice

Funzioni PHP inesistenti, parametri API obsoleti, package npm con nome plausibile ma mai pubblicato. Esegui codice, composer install, npm ci, test. Non deployare snippet non compreso.

Cultura nel team

Normalizza «l’AI sbaglia»: checklist di pubblicazione obbligatoria, nessuna punizione per segnalare errori prima del go-live. Registra gli incidenti post-pubblicazione per migliorare prompt e fonti. Nei webinar o nelle slide, evita screenshot di chat con statistiche non verificate: possono diventare virali e associarsi al tuo brand. Per mappe e coordinate, controlla su Google Maps o GIS: indirizzi «quasi giusti» fanno perdere clienti locali.

Dopo una pubblicazione errata

Se un prezzo o una norma sbagliata è andata online, correggi subito, mostra la data di aggiornamento e, se qualcuno ha agito in base all’errore, segui la procedura commerciale interna. Non limitarti a rigenerare con l’AI: la seconda bozza può replicare lo stesso errore se il prompt contiene ancora l’affermazione falsa. Aggiungi al brief la lista «fatti approvati solo da [ruolo]» e, per i numeri di mercato, usa solo report che hai acquistato o scaricato legalmente, citando la fonte in nota.

Routine settimanale per chi pubblica spesso

Lunedì: elenco delle pagine in uscita nella settimana con un responsabile per il fact-check. Mercoledì: controllo a campione su due URL con confronto sulla fonte interna. Venerdì: archivia prompt e output approvati in cartella condivisa per riusare i template, cancellando eventuali dati personali residue.

Per le tabelle prezzi sul sito, collega sempre un PDF o un export dal gestionale: non chiedere all’AI di «aggiornare i prezzi» senza un feed dati strutturato. Su contenuti comparativi («noi vs alternative»), verifica ogni critica al concorrente e limitati a differenze oggettive che puoi dimostrare. Per le citazioni dei clienti, usa solo testo firmato; non chiedere al modello di inventare testimonianze. Quando l’AI propone bibliografia, controlla ogni titolo su catalogo o DOI. Per statistiche di settore, linka la fonte primaria: se non la trovi, togli il dato. Su pagine ad alto rischio (prezzi, salute, diritto), due revisori bastano se il secondo non riusa lo stesso prompt del primo. Incrocia affermazioni temporali («dal 2018 offriamo…») con la data di fondazione reale approvata internamente: il modello allunga spesso la timeline per sembrare più autorevole.

In breve

• Le allucinazioni sono attese: ogni fatto va verificato.
• Segna numeri, leggi, URL e nomi per controllo sistematico.
• Fonti primarie e documenti interni, non solo il modello.
• Prompt di estrazione affermazioni + revisione umana.
• Stesso rigore su codice: esegui e testa prima del deploy.