Quando l’IA «allucina» – Video Editoriale – Legalcommunity n. 333

È successo in Sicilia: un avvocato ha presentato una memoria difensiva citando quattro sentenze della Cassazione a sostegno delle proprie tesi… peccato che nessuna fosse pertinente. Il giudice, dopo una verifica accurata nel Ced, ha scoperto che le sentenze esistevano, ma trattavano tutt’altro. La causa? «Allucinazioni» da intelligenza artificiale: modelli generativi che, non trovando riferimenti reali, producono contenuti convincenti ma falsi.

Il giudice ha rimarcato con chiarezza che «i modelli di intelligenza artificiale generativa non costituiscono banche dati giurisprudenziali, bensì strumenti di generazione automatica del linguaggio fondati su meccanismi inferenziali di natura statistica e probabilistica». In altre parole: affidarsi ciecamente all’IA senza verifica equivale a giocare d’azzardo con la propria credibilità professionale.

Il caso evidenzia un punto centrale: l’IA deve essere un supporto, non un sostituto del giudizio del legale. Può velocizzare ricerche, individuare pattern, ottimizzare processi, ma la responsabilità ultima resta in capo all’avvocato. L’innovazione tecnologica va integrata con rigore deontologico, formazione continua e procedure interne di controllo. Solo così l’IA può essere davvero uno strumento potente, senza trasformarsi in un rischio reputazionale.

💡 Morale della storia: creatività sì, ma sempre verificata. L’IA non è un oracolo, è uno strumento nelle mani di chi sa usarla con responsabilità.