01 · Definiția
În AI, o halucinație este un răspuns formulat convingător, dar fals sau fără acoperire: o cifră care nu există în document, o carte cu autor real și titlu inventat, un articol de lege citat greșit, o funcție de program care nu există. Termenul e împrumutat și imperfect, pentru că modelul nu „vede” nimic, dar s-a impus pentru că descrie bine efectul: textul sună sigur, iar conținutul e greșit.
Halucinațiile nu sunt defectul rar al unui anumit produs. Apar la modelele de limbaj în general, mai des sau mai rar, și sunt motivul pentru care răspunsurile AI se verifică înainte de a fi folosite.
02
Cum funcționează
Un LLM generează textul cel mai plauzibil pentru context, token cu token. Nu are o bază de fapte pe care să o consulte și nici un semnal intern sigur care să-i spună „nu știu”. Când întrebarea atinge ceva ce a văzut rar sau deloc la antrenare, modelul continuă tiparul: un nume de autor plauzibil, un an plauzibil, un număr de articol plauzibil.
Riscul crește în câteva situații previzibile:
- detalii precise: cifre, date, nume, citări, adrese web, numere de articol;
- subiecte de nișă sau foarte recente, puțin prezente în datele de antrenare;
- întrebări care presupun ceva fals („de ce a decis instanța X…”, când decizia nu există);
- cereri care obligă la un răspuns, fără voie de a spune că informația lipsește;
- texte lungi, în care o greșeală mică trece neobservată printre multe afirmații corecte.
03
Un exemplu concret
Exemplu didactic: ceri unui asistent AI „trei studii despre efectul lucrului de acasă asupra productivității, cu autor și an”. Primești trei referințe bine formatate. Când le cauți, una există, una are autorul corect, dar alt titlu, iar a treia nu există deloc. Modelul nu a mințit intenționat: a produs ceva care arată ca o listă de referințe.
Varianta mai sigură: îi dai tu documentele sau folosești un instrument care caută în surse și afișează linkurile, apoi deschizi fiecare sursă. Iar când lucrezi pe un document dat (un contract, un raport), ceri ca fiecare afirmație să fie însoțită de pagina sau paragraful din care vine.
04
Limite și greșeli frecvente
Halucinațiile se reduc, nu se elimină. Ce ajută:
- Sursa în context. Documentele date modelului, direct sau prin RAG, îl ancorează în text real.
- Voie să spună „nu știu”. O instrucțiune explicită de tipul „dacă informația nu apare, scrie că nu apare” schimbă comportamentul.
- Trimiteri verificabile. Cere pagina, articolul sau linkul pentru fiecare afirmație importantă, apoi verifică-le.
- Verificare pe măsura mizei. Un email intern se citește atent; o cifră dintr-o declarație sau o referință juridică se confirmă în sursa oficială.
Greșelile frecvente: să crezi că un ton sigur înseamnă un răspuns corect, să-i ceri modelului să se verifice singur și să te oprești acolo sau să presupui că un model mai nou nu mai halucinează. Verificarea finală se face pe sursă, de către un om.
05 · Din catalog
Unde înveți despre halucinații: cursuri din catalog
Lecțiile sunt text, în română, cu quiz la fiecare lecție. Din fiecare curs citești gratuit un fragment din prima lecție, fără cont. Abonamentul începe de la 499 lei pe lună pentru un curs, cu TVA 21% inclus.
Analiză de Date cu AI fără Cod: ChatGPT, Excel și SQL pentru Non-Programatori (pagina cursului pe cursuri-ai.ro)
Pentru oricine lucrează cu tabele și nu scrie cod. Pui întrebări pe date în ChatGPT și cu Copilot în Excel, faci primii pași cu SQL generat din text și verifici dacă AI-ul a inventat coloane sau a greșit calculele.
Prompt Engineering Masterclass (pagina cursului pe cursuri-ai.ro)
Pentru profesioniștii care scriu zilnic cereri pentru modele AI. Treci de la baze la tehnici avansate, scrii prompturi multimodale și pentru cod, agenți sau business, apoi te aperi de abuzuri și îți măsori prompturile.
06
Întrebări despre halucinații
De ce nu spune modelul, pur și simplu, că nu știe?
Pentru că felul în care generează text nu include o verificare a adevărului. Unele modele și aplicații sunt ajustate să recunoască mai des incertitudinea, iar o cerere care îi permite explicit să spună „nu apare în document” ajută. O garanție nu există.
Se poate detecta automat o halucinație?
Parțial. În aplicații se folosesc verificări automate: compararea răspunsului cu sursele, un al doilea model care evaluează răspunsul, reguli pentru cifre. Ele prind o parte din greșeli. Pentru deciziile importante, verificarea pe sursă rămâne a unui om.
07