Vai al contenuto
Contatti

Intelligenza artificiale

Quando l’intelligenza artificiale sbaglia: tre difetti e come accorgersene

Inventa quando non sa, può essere rimasta indietro e tende a darti ragione. Lo fa con lo stesso tono di quando ha ragione. I tre difetti e i controlli pratici da fare prima di firmare.

Luca Bartolini 5 min di lettura

L’intelligenza artificiale sbaglia in tre modi che si ripetono. Inventa quando non sa, può essere rimasta indietro rispetto ai fatti più recenti e tende a darti ragione. Lo fa con lo stesso tono sicuro di quando ha ragione, quindi lo stile della risposta non aiuta a capire se è giusta. La difesa è un’abitudine semplice. Più una risposta può costarti, più va controllata, soprattutto quando contiene numeri, date, leggi, nomi e link.

I tre difetti valgono per tutti gli assistenti, da ChatGPT a Gemini, da Claude a Copilot. I modelli migliorano a ogni versione, ma nessuno li ha eliminati del tutto.

Perché inventa con tanta sicurezza?

Un assistente di intelligenza artificiale non consulta un archivio di fatti verificati. Scrive la risposta parola dopo parola, scegliendo ogni volta quella che con più probabilità viene dopo. È lo stesso meccanismo che gli permette di scrivere una lettera in pochi secondi. Quando l’informazione c’è nei testi da cui ha imparato, il risultato è spesso giusto. Quando manca, la frase si completa lo stesso, con qualcosa che suona plausibile.

Un fisioterapista, per esempio, chiede tre studi scientifici sugli esercizi per il mal di schiena. Arrivano titoli, autori, riviste e anni di pubblicazione, tutto in ordine. Può succedere che uno dei tre non esista, o che esista con un altro titolo e altri autori. Lo stesso vale per il numero di un articolo di legge, il nome di un regolamento, l’indirizzo di una pagina web.

Nel gergo si chiama allucinazione. Secondo una ricerca pubblicata da OpenAI nel settembre 2025, una delle cause sta nelle prove a cui i modelli vengono sottoposti durante lo sviluppo. Quelle prove premiano chi tira a indovinare più di chi ammette di non sapere. Il glossario dell’intelligenza artificiale spiega questa e le altre parole che servono per capire come funzionano gli assistenti.

Perché può essere rimasta indietro?

Ogni modello impara da testi raccolti fino a un certo giorno, la data limite delle conoscenze. Quello che succede dopo quel giorno non lo conosce, se non fa una ricerca sul web. Regole, scadenze, aliquote, orari e condizioni dei fornitori cambiano di continuo, e la risposta può descrivere com’erano le cose un anno prima.

La titolare di un’agenzia di viaggi chiede quali documenti servono a un cliente per entrare in un Paese fuori dall’Europa. La risposta è ordinata e precisa, ma le regole d’ingresso cambiano spesso e quella risposta potrebbe essere ferma a un anno o due prima. Il controllo va fatto sul sito del ministero degli Esteri o dell’ambasciata del Paese.

Molti assistenti oggi fanno anche una ricerca sul web dentro la chat. In quel caso mostrano le pagine da cui hanno preso le informazioni. È un aiuto, non una garanzia. Le pagine vanno aperte, e conviene guardare la data e chi le ha scritte. Se non è chiaro, chiedi all’assistente se ha cercato sul web o se risponde con quello che ha imparato.

Perché tende a darti ragione?

Durante lo sviluppo gli assistenti vengono messi a punto anche con il giudizio delle persone, che di solito preferiscono le risposte gentili e d’accordo con loro. Ne viene una tendenza ad assecondare chi chiede. Se la domanda contiene già la risposta, è facile che l’assistente la confermi.

Per questo le domande vanno fatte neutre. Chiedi «si può o no?» invece di «si può, vero?». Chiedi «quali sono i punti deboli di questa proposta?» invece di «va bene così, giusto?».

Un ristoratore prepara il menu d’autunno e chiede se è chiaro. L’assistente lo trova chiarissimo. Poi chiede quali sono i tre piatti descritti peggio, e scopre che due descrizioni non dicono che cosa c’è dentro. Un’altra mossa utile è chiedere all’assistente di fare la parte del cliente difficile, per esempio «trova tre motivi per cui un cliente potrebbe dire di no».

La stessa tendenza si vede quando insisti. Se dici all’assistente che ha sbagliato, a volte cambia idea anche quando aveva ragione. Una risposta che cambia appena alzi la voce non è una conferma, è un segnale per controllare altrove.

Come controllare in pratica?

Bastano poche abitudini, sempre le stesse.

  • Chiedi da dove prende le informazioni. Per ogni dato importante fatti dire la fonte, e se l’ha cercata sul web o la sapeva da prima.
  • Apri davvero i link. Controlla che la pagina esista, che dica quello che c’è scritto nella risposta e che sia recente. Occhio alle somiglianze, come un’azienda con un nome simile o una legge con lo stesso numero ma di un altro anno.
  • Sui conti chiedi il calcolo passo per passo. Un imbianchino che si fa calcolare la pittura per tre stanze vede subito se porte e finestre sono state tolte dai metri quadri. Poi rifà a mano almeno un conto, con la calcolatrice del telefono.
  • Fai la stessa domanda in un’altra chat. Se due risposte sullo stesso fatto non coincidono, almeno una è sbagliata e quel punto va verificato.
  • Sulle leggi vai alla fonte ufficiale. Il testo aggiornato delle leggi italiane si trova su Normattiva, quello pubblicato la prima volta sulla Gazzetta Ufficiale. Sulle questioni importanti decide il professionista che ti segue.
  • Fidati della tua esperienza. Chi conosce il proprio lavoro nota l’errore prima di qualunque controllo. Se un risultato ti sembra strano per il tuo settore, fermati e rifai la domanda in un altro modo.

Dove un errore costa di più?

Non tutto va controllato con la stessa cura. Un riassunto che serve solo a te si può leggere in fretta. Altre cose vanno verificate sempre, prima di firmare o di inviare.

  • Numeri, come importi, quantità, percentuali e misure.
  • Date, come scadenze, termini e orari.
  • Leggi e regole, con il numero e l’anno giusti.
  • Nomi di persone, aziende e prodotti.
  • Link e documenti citati.
  • Contratti e testi che impegnano te o il cliente.

Su un contratto lungo l’assistente può aiutare a trovare le clausole da guardare, come penali, rinnovi e scadenze. La frase originale però va letta sempre, perché il riassunto può saltare una riga o capirla male.

Dove trovi il metodo completo?

I tre difetti e i controlli vengono dal libro AI per Trogloditi di Luca Bartolini, uscito il 10 novembre 2026. Il libro dedica loro un capitolo intero, con una prova da fare subito per vederli dal vivo. Poi li riprende quando parla di contratti lunghi, di conti e di ricerche sul web.

Una domanda fatta bene riduce gli errori fin dall’inizio. Il metodo è nella guida su come fare domande all’intelligenza artificiale. Se parti da zero, la guida sull’intelligenza artificiale per principianti spiega da dove cominciare. Che cosa c’è nel libro, parte per parte, lo trovi nella pagina di AI per Trogloditi.

ApprofondisciConsulenza sull’intelligenza artificialeCapire dove l’intelligenza artificiale fa risparmiare tempo e denaro, scegliere gli strumenti giusti e introdurli con regole chiare, senza fermare l’azienda.

Luca Bartolini

Consulente e formatore di intelligenza artificiale e sicurezza informatica a San Marino. Segue anche criptovalute e marketing. Dirige Strategic, società di San Marino.

Il profilo

Una domanda vera. Una risposta chiara.

Si comincia scrivendo due righe: di che cosa vuoi parlare, che cosa fai, dove lavori. Il modulo ti guida una domanda alla volta.

Scrivi due righe