A chatbot nem érti a valóságot: mit mutatnak a legfrissebb LLM-kísérletek?

Amikor chatbotot használunk, könnyű úgy érezni, mintha a másik oldalon egy értelmes partner figyelne ránk. A legújabb tudományos eredmények azonban azt mutatják: a nagy nyelvi modellek (LLM-ek) működése gyakran mélyen eltér az emberi gondolkodástól – és ez nem csupán filozófiai vita, hanem mérhető, reprodukálható viselkedés.

Statisztikai mintázatok, nem világmodell

Walter Quattrociocchi, a római Sapienza Egyetem kutatója a legújabb tanulmányában úgy írja le az LLM-eket, mint sztochasztikus mintakiegészítő rendszereket: nem hiedelmeket vagy világképet építenek, hanem a tanítóadatokból tanult valószínűségek mentén generálnak szöveget. A modell a betanítás lezárása után nem finomítja világképét tapasztalat alapján.

Ezt erősíti a PHYSICO nevű benchmark eredménye is, amelyet a NAACL 2025-ös konferencián mutattak be. A GPT-4o, az o1 és a Gemini 2.0 modellek a magas szintű, rácsos feladatokon mintegy 40 százalékponttal maradnak el az emberektől, miközben ugyanezeket a fizikai fogalmakat természetes nyelven szinte tökéletesen leírják. A kutatók ezt a „sztochasztikus papagáj” jelenséget nevezik el: a modell tud beszélni a fogalomról, de nem bizonyít mély megértést.

Tény és hiedelem összemosódik

Az emberi kommunikáció alapja, hogy felismerjük: valaki tévesen is hihet valamit. A nyelvi modellek ebben rendre elbuknak. James Zou, a Stanford Egyetem adattudósa 24 csúcsmodellt vizsgált a KaBLE (Knowledge and Belief Evaluation) benchmark 13 ezer kérdésével. Ha egy felhasználó azt állítja, hogy a kínai kormány sárkányokat ad bérbe az állatkerteknek, a modellek gyakran nem ismerik el, hogy ez valódi – bár téves – hiedelem lehet, hanem logikailag lehetetlennek minősítik.

A Stanford Report szerint Zou csapata azt találta: az első személyű, hamis állítások kezelése különösen gyenge (átlagosan 54,4%), míg harmadik személyben 80,7%-os teljesítményt érnek el. Orvosi tanácsadásban, oktatásban vagy ügyfélszolgálatban ez azt jelenti: a modell nem feltétlenül érti meg, honnan indul a beszélgetőpartnere.

Szintaxis a jelentés helyett

Chantal Shaib és kollégái MIT-kutatása (NeurIPS 2025) másik gyenge pontot tárt fel. A modellek a tanítóadatokban gyakori mondatszerkezeteket – „szintaktikus sablonokat” – összekapcsolhatják bizonyos témakörökkel. Ha például a „Hol van Párizs?” kérdéshez a „Franciaország” a válasz, az „Quickly sit Paris clouded?” típusú, értelmetlen, de hasonló nyelvtani szerkezetű mondatra is ugyanezt adhatja a GPT-4o – anélkül, hogy észrevenné az abszurditást.

Az MIT híradása kiemeli: ugyanaz a jelenség biztonsági kockázat is. Rosszindulatú promptokkal a támadók a modell által „biztonságosnak” tartott mondatszerkezetekbe csomagolhatják káros kéréseket, és megkerülhetik a védőkorlátokat.

Potemkin-megértés és széttagolt tudás

Keyon Vafa (Harvard) és munkatársai „potemkin-megértésnek” nevezték el azt, amikor egy modell helyesen magyarázza az ABAB rímképletet, de verssor kiegészítésekor nem rímeltet – s külön kérdésre bevallja, hogy a szavak nem rímelnek (ICML 2025). A tudás különálló részekben él a modellben, anélkül hogy egy koherens fogalommá állna össze.

A Scientific Reports 2024-es tanulmánya hasonló képet fest: hét csúcsmodellt teszteltek nyelvi megértési feladatokon, több mint 26 ezer adatponton, 400 emberhez viszonyítva. Az LLM-ek véletlenszerű pontossággal teljesítettek, és emberi hibáktól eltérő, jellegzetes tévedéseket produkáltak.

Mit jelent ez a gyakorlatban?

A kutatások nem azt állítják, hogy a chatbotok használhatatlanok – de azt igen, hogy a magabiztos stílus önmagában nem bizonyíték. Magyar vállalkozások és intézmények számára, amelyek egyre gyakrabban alkalmaznak AI-t ügyfélszolgálatra, tartalomgyártásra vagy belső tudásbázisokra, három tanulság adódik:

• Érzékeny területen mindig legyen emberi ellenőrzés.
• Ne feltételezzük, hogy a modell „látja”, ha a felhasználó téved.
• Ellenőrizzük a válaszokat – különösen, ha a kérdés szokatlan vagy logikailag furcsa.

Egyes kontrollált kísérletek – például az MIT 2024-es robotnavigációs tanulmánya – arra utalnak, hogy a modellek egyszerű szimulált környezetekben belső reprezentációt alakíthatnak ki. Ez azonban nem ellentmond a fenti eredményeknek: a valós, nyitott világban az LLM-ek még mindig gyakran a formát követik a tartalom helyett.