Le allucinazioni degli LLM: il problema che nessuno ha davvero risolto (finora)

C'è una scena che non riesco a togliermi dalla testa. Un nostro cliente — una società di noleggio auto con una flotta di oltre 300 veicoli — mi ha mostrato, quasi divertito, la trascrizione di una chiamata gestita dal loro vecchio agente vocale AI.

Un cliente aveva chiesto informazioni su una auto specifica, una berlina elettrica. L'agente, con un tono sicuro e professionale, ha risposto con tutti i dettagli: autonomia, prezzo, disponibilità.

Il problema? Quell'auto non esisteva nel loro catalogo. Non era mai esistita. L'agente se l'era semplicemente inventata.

Il cliente dall'altra parte aveva già compilato un modulo di interesse online.

Quella scena cattura, meglio di qualsiasi white paper, il problema più sottovalutato nell'intelligenza artificiale applicata: le allucinazioni.

Cosa Sono Davvero le Allucinazioni (e Perché Riguardano Tutti)

In termini tecnici, un'allucinazione si verifica quando un Large Language Model — un LLM, il motore dietro ChatGPT, Claude, Gemini e ogni moderno agente AI — genera informazioni che sembrano plausibili ma sono semplicemente false. Non è un bug nel senso tradizionale del termine. È una caratteristica strutturale del modo in cui questi modelli funzionano.

Un LLM non "sa" le cose come le sa un database. Ragiona attraverso probabilità statistiche distribuite su miliardi di parametri. Quando gli manca un contesto sufficiente o la certezza, non si ferma a dire "non lo so."

Completa comunque la frase, nel modo statisticamente più coerente possibile. Il risultato può essere un'informazione inventata, fornita con la stessa sicurezza di qualcosa che è vero nei fatti.

In una conversazione informale su un film, è tollerabile. In un agente AI che parla con i tuoi clienti, è un disastro.

Il Vero Costo delle Allucinazioni per le Aziende

Non stiamo parlando di scenari teorici. Stiamo parlando di impatti concreti e misurabili che chiunque gestisca agenti AI in produzione conosce fin troppo bene.

Il call center che cita i prezzi sbagliati. Un'azienda di telecomunicazioni integra un agente vocale per gestire le richieste di upgrade.

Durante alcune chiamate, l'agente indica tariffe che non corrispondono alle promozioni attive. I clienti si presentano aspettandosi quei prezzi. Il team commerciale deve gestire reclami e rimborsi. Il danno non è solo economico — è reputazionale.

Il supporto tecnico che fornisce istruzioni inesistenti. Un'azienda software usa un agente AI per l'assistenza di primo livello. In alcuni casi, l'agente descrive funzionalità o percorsi di menu che non esistono nella versione che il cliente sta effettivamente usando. L'utente passa 20 minuti a cercare una voce di menu che non c'è, poi richiama furioso.

L'agente legale che cita sentenze fantasma. Ormai è un classico: avvocati di tutto il mondo sono stati messi in imbarazzo da LLM che citavano giurisprudenza del tutto inventata — completa di numeri di ruolo e nomi dei tribunali. Non è fantascienza; è successo in vere aule di tribunale, con conseguenze reali.

Il settore sanitario che non può permettersi errori. Le cliniche private che usano agenti AI per la gestione degli appuntamenti e il pre-triage rischiano che l'agente fornisca informazioni errate su farmaci, dosaggi o controindicazioni. Qui le conseguenze vanno ben oltre l'aspetto economico.

Il filo conduttore? In tutti questi casi, il problema non è che l'AI "non sapesse." Il problema è che non sapeva di non sapere.

Il Panorama degli LLM: Un Mercato Frammentato

Oggi esistono decine di LLM disponibili, ciascuno con punti di forza diversi. Per orientarsi nel panorama, esistono diversi strumenti solidi di benchmarking e confronto. Alcuni dei più usati da sviluppatori e team tecnici:

LMSYS Chatbot Arena — una piattaforma in cui gli utenti valutano i modelli in test alla cieca. Utile per comprendere le preferenze umane sulla qualità percepita delle risposte.

Artificial Analysis — confronta i modelli su latenza, throughput, qualità e costo. Uno dei riferimenti più completi per chiunque scelga un modello per un'applicazione specifica.

Scale HELM — sviluppato da Stanford, valuta i modelli su decine di attività specifiche: ragionamento, riassunto, question answering, coding e altro ancora.

OpenLLM Leaderboard (HuggingFace) — focalizzato sui modelli open source, con benchmark standardizzati come MMLU, HellaSwag e ARC.

Ciò che emerge da questi strumenti è una verità scomoda ma preziosa: non esiste un singolo LLM che sia il migliore in assoluto per tutto, per ogni attività. Un modello eccellente nel ragionamento complesso può avere latenze troppo elevate per un'interazione vocale in tempo reale.

Un modello molto veloce e leggero può fallire quando deve gestire chiamate a strumenti esterni (tool calling). Un modello ottimizzato per la generazione di testi lunghi avrà difficoltà in un dialogo rapido e contestuale.

Questa frammentazione non è un difetto del mercato — è la realtà fisica e statistica del modo in cui questi modelli funzionano. Il problema è che quasi ogni sistema AI sul mercato ignora questo fatto e sceglie un unico LLM per fare tutto.

Il Problema del Singolo LLM: Quando il "Tuttofare" Diventa un Rischio

Immagina di affidare un intero turno chirurgico a un solo medico con la specializzazione sbagliata per metà delle procedure in agenda. Tecnicamente potrebbe anche cavarsela, ma non è ciò che faresti per i tuoi pazienti.

Eppure è esattamente ciò che fanno la maggior parte delle piattaforme di agenti vocali AI: scelgono un modello, lo configurano e lo usano per tutto — dal saluto iniziale, alla gestione delle obiezioni, fino alla consultazione di dati esterni e al riepilogo finale.

Il risultato? Latenze inutilmente alte nei momenti semplici. Errori e allucinazioni in quelli critici. Un sistema che non è né veloce né accurato, ma un compromesso mediocre su tutta la linea.

Abbiamo deciso di affrontare questo problema in modo diverso.

LLM Switcher: La Nostra Risposta al Problema delle Allucinazioni

Quando abbiamo fondato callin.io, ci siamo posti una domanda semplice: se ogni LLM ha un ambito in cui eccelle, perché non usare quello giusto nel momento giusto?

Da questa domanda è nata la nostra tecnologia proprietaria: LLM Switcher.

L'idea di base è elegante: un agente vocale AI non è un monolite. È una sequenza di micro-attività, ciascuna con caratteristiche diverse in termini di complessità, latenza richiesta, profondità del ragionamento o necessità di chiamare strumenti esterni. LLM Switcher analizza dinamicamente in quale fase della conversazione si trova l'agente e seleziona il modello più adatto per quel preciso momento.

In concreto, ecco come funziona in una chiamata tipica:

Fase 1 — Apertura e raccolta del contesto L'inizio di una chiamata richiede velocità. Il cliente ha già aspettato durante il segnale di chiamata — non può aspettare altri due secondi prima di ricevere una risposta. Qui utilizziamo modelli ultraveloci e a bassa latenza come Qwen o modelli della famiglia Neuron, ottimizzati per l'interazione in tempo reale. Il ragionamento richiesto è moderato: capire chi sta chiamando, perché, e raccogliere il contesto iniziale. La velocità è la priorità.

Fase 2 — Tool Calling e integrazione con sistemi esterni Nel momento in cui l'agente deve interrogare un CRM, consultare un database prodotti, verificare la disponibilità in agenda o attivare una notifica — siamo nel territorio del tool calling. Qui la latenza è meno critica, ma l'accuratezza è tutto. Un errore in questa fase significa dati sbagliati, prenotazioni errate, informazioni che non corrispondono alla realtà. È qui che entriamo nel dominio di Gemini 2.5 Flash — un modello estremamente accurato nella gestione delle chiamate a funzioni esterne, con un'eccellente capacità di seguire schemi strutturati senza inventare nulla.

Fase 3 — Ragionamento complesso A volte la conversazione prende una piega che richiede un vero sforzo cognitivo. Il cliente solleva un'obiezione sfumata. La situazione non rientra in nessuno scenario standard. La risposta va costruita su più variabili, bilanciando informazioni in competizione, ragionando in modo non lineare. È qui che entra in scena Claude — con le sue profonde capacità di ragionamento, la gestione di lunghi contesti e la coerenza interna anche su problemi complessi. Il compromesso sulla latenza è accettabile perché, in questi momenti, l'utente si aspetta una risposta ponderata.

Fase 4 — Chiusura e follow-up La fase finale della chiamata richiede chiarezza, sintesi e il tono giusto. Torniamo a un modello bilanciato tra velocità e qualità, ottimizzato per una produzione testuale naturale e una chiusura pulita della conversazione.

Perché Questo Riduce Strutturalmente le Allucinazioni

La riduzione delle allucinazioni con LLM Switcher non è un effetto collaterale fortunato. È il risultato diretto di un principio ingegneristico: assegnare ogni attività al modello più adatto a eseguirla correttamente.

Le allucinazioni aumentano quando chiedi a un modello di fare qualcosa al di fuori del suo punto di forza. Un modello veloce ma leggero, costretto a gestire tool calling complessi, tende a "indovinare" i valori dei parametri che non riesce a gestire correttamente. Un modello generalista, costretto a ragionare su scenari limite, produce spesso risposte plausibili ma errate.

Usando il modello giusto per ogni fase, eliminiamo questo stress strutturale. Ogni LLM opera nel proprio dominio ottimale. Il risultato è un sistema con un tasso di allucinazioni significativamente inferiore rispetto a qualsiasi soluzione a modello singolo.

E c'è di più: il sistema impara dalla conversazione. Il contesto accumulato nelle fasi precedenti viene passato al modello successivo in modo strutturato, garantendo continuità e coerenza anche tra un motore e l'altro.

Un Approccio che il Mercato Non Offre Ancora

Abbiamo analizzato le principali piattaforme di agenti vocali AI disponibili oggi. La stragrande maggioranza sceglie un singolo LLM — o al massimo offre la possibilità di configurarene uno come opzione fissa. Nessuna, per quanto ne sappiamo, implementa una logica di switching dinamico basata sul tipo di attività in corso, in tempo reale, durante una chiamata vocale attiva.

Questo ci pone in una posizione unica sul mercato. Non stiamo semplicemente vendendo un agente AI più veloce o vagamente "più intelligente". Stiamo offrendo un sistema che ragiona su se stesso — che sa quando è il momento di essere veloce, quando essere preciso e quando pensare più a fondo.

Il Futuro: Routing Intelligente e Modelli Specializzati

LLM Switcher è la nostra risposta di oggi, ma la nostra ricerca non si ferma qui.

Il prossimo passo è l'introduzione di uno strato di routing intelligente che non si limiti a distinguere tra fasi conversazionali e tipi di attività, ma impari dal feedback delle conversazioni reali — quali switch hanno prodotto le risposte migliori, in quali contesti certi modelli hanno ancora allucinato, dove i confini tra le fasi devono essere ridisegnati.

Stiamo anche osservando da vicino l'emergere continuo di LLM specializzati per domini verticali: modelli addestrati specificamente per casi d'uso legali, medici e finanziari. Man mano che questi modelli matureranno, LLM Switcher potrà integrarli come nodi specializzati nel grafo decisionale, aumentando ulteriormente la precisione e riducendo il rischio di errori specifici del dominio.

Conclusione: L'Onestà Intellettuale Come Vantaggio Competitivo

Le allucinazioni non scompariranno presto. Chiunque ti dica il contrario sta vendendo qualcosa di diverso da ciò che sembra. I modelli stanno migliorando, i benchmark avanzano — ma la natura probabilistica degli LLM significa che un certo margine di incertezza rimarrà parte del quadro ancora per molto tempo.

La domanda giusta non è "come eliminiamo le allucinazioni?" — è "come costruiamo sistemi che le minimizzino, le contengano e le rendano il meno dannose possibile?"

Questa domanda è la filosofia alla base di callin.io. Ed è questa filosofia che ha dato vita alla tecnologia LLM Switcher.

Perché, alla fine della fiera, un agente vocale AI non deve essere infallibile. Deve essere affidabile. Deve essere il tipo di interlocutore di cui un cliente — e un'azienda — possano davvero fidarsi.

È questo il lavoro che stiamo facendo. Ogni singola chiamata.

callin.io è una piattaforma di agenti vocali AI costruita per aziende che non possono permettersi di sbagliare. Per saperne di più sulla tecnologia LLM Switcher o testare i nostri agenti, contattaci.