Az AI hallucináció nem egyszerű programhiba, hanem a generatív modellek működéséből eredő kockázat. A modell valószínű szöveget állít elő, nem pedig automatikusan ellenőrzött tényadatbázisból idéz. Ezért egy nyelvileg hibátlan válasz is lehet téves vagy kitalált.
Frissítve: 2026. július 29. A cikk üzleti-technológiai tájékoztató, nem egyedi jogi tanácsadás.
Milyen formában jelenik meg?
Kitalált jogszabályhely, nem létező tanulmány, hibás termékadat, téves ügyfélstátusz, hamis idézet vagy logikusnak tűnő, de rossz számítás. Különösen veszélyes, amikor a válasz részletes és magabiztos, ezért a felhasználó kevésbé gyanakszik.
Mi növeli a kockázatot?
Hiányos vagy ellentmondó kontextus, túl tág kérdés, elavult tudás, forrás nélküli következtetés és olyan feladat, amely pontos, friss adatot igényel. A hosszú beszélgetésben elvesző utasítások és a nem megfelelő modellválasztás szintén ronthatja az eredményt.
RAG és hiteles források
A retrieval-augmented generation a válasz előtt releváns vállalati dokumentumokat keres, és ezekből ad kontextust a modellnek. Ez csökkentheti a hallucinációt, de nem szünteti meg. A dokumentumok minősége, darabolása, jogosultsága és frissessége kritikus.
Technikai védelmi rétegek
Kötelező hivatkozás, strukturált kimenet, szabályalapú validáció, üzleti rendszerből lekért tényadat, bizonytalansági küszöb, tiltott műveletek és emberhez irányítás. A fontos adatot ne a modell emlékezetéből kérjük, hanem API-n keresztül az elsődleges rendszerből.
Tesztelés valódi esetekkel
Készítsünk arany standard kérdés-válasz készletet, külön nehéz és megtévesztő példákkal. Mérjük a tényszerű pontosságot, a forráshűséget, a megfelelő visszautasítást és az emberhez irányítás arányát. Modell- vagy promptváltás után futtassuk újra a teszteket.
Gyakori kérdések
Megszüntethető teljesen a hallucináció?
Általános generatív modellnél nem garantálható, de a feladat korlátozásával, forrásalapú válasszal és validációval jelentősen csökkenthető.
A RAG mindig helyes választ ad?
Nem. Rossz dokumentumot is visszakereshet, a modell pedig félreértheti a kontextust. A teljes láncot kell mérni.
Mikor kötelező az emberi ellenőrzés?
Ha a tévedés jelentős jogi, pénzügyi, egészségügyi vagy emberi hatással jár, a döntést nem szabad ellenőrizetlen generatív válaszra bízni.
Források és további olvasnivaló
Forrásalapú, mérhető AI-rendszert szeretne?
RAG-keresést, API-adatforrásokat, tesztkészletet és biztonságos kivételkezelést építünk a folyamatba. Kérjen technikai konzultációt.