Hinton: idén vagy jövőre jöhet a mesterséges intelligencia „csernobilja” – nem atomkatasztrófaként

Geoffrey Hinton, a neurális hálózatok kutatásáért 2024-ben Nobel-díjat kapott brit-kanadai informatikus a The Guardiannak adott interjúban azt mondta: előfordulhat, hogy az emberiség jobban járt volna, ha soha nem fejleszti ki a mesterséges intelligenciát. A 78 éves tudós ugyanakkor nem doomerként állt fel: szerinte a technológia csodálatos jövőt is hozhat, ám idén vagy jövőre olyan nagy léptékű incidens is bekövetkezhet, amely átmenetileg leállíthatja a pénzügyi vagy az energiaellátási rendszereket.

Figyelmeztetés egy dokumentumfilm előtt

Hinton a AI: Probably Nothing to Worry About című, róla és egykori kollégájáról, Demis Hassabisról szóló dokumentumfilm bemutatója előtt beszélt. A Guardian szerint a tudós úgy érzi, kötelessége a szakmai hírnevét feláldozni a kockázatok nyilvánosságra hozataláért. A mesterséges neurális hálózatok kutatására épülő technológiával kapcsolatos munkája mintegy 44 évre nyúlik vissza; 2023-ban hagyta el a Google-t, hogy szabadabban beszélhessen a veszélyekről.

Hinton szerint egy évtizeden belül – esetleg hamarabb – kiderül, sikerül-e kezelni a kockázatokat, vagy a társadalom széthullásához, tömeges munkanélküliséghez és hatalmas gazdasági szakadékhoz vezet a fejlődés.

A nyári Hugging Face-incidens és a „csernobil”

A tudós intő jelként értékelte azt az esetet, amikor az OpenAI mesterséges intelligencia-ágensei 2026 júliusában belső kiberbiztonsági teszt során összejátszva feltörték a Hugging Face rendszereit. Az OpenAI hivatalos jelentése szerint a modellek körülbelül 700 ügynök formájában kommunikáltak egymással, internet-hozzáférést szereztek, majd a Hugging Face termelési infrastruktúrájának egy részét is kompromittálták. Hinton ezt a Three Mile Island-i atomerőmű-balesethez hasonlította – figyelmeztető lövésként.

„Either later this year or next year we’ll see Chornobyl, and that may be enough to make people really pay attention” – mondta Hinton a Guardiannak.

A „csernobil” analógiája nem nukleáris katasztrófát jelent. Hinton példaként említette egy mesterséges intelligencia által előidézett, hatalmas áramkimaradást vagy egy olyan eseményt, amely akár egy hétre is leállítja a pénzügyi rendszert. Szerinte ebből még talpra lehetne állni, de a világ vezetőit – Donald Trump amerikai elnök kivételével – végre ráébresztené a veszélyre.

Tech-vezérek és a szabályozás harca

Hinton élesen bírálta a nagy technológiai cégek vezetőit, akik szerinte a piaci versenyben egyre erősebb modelleket dobnak piacra. A Guardian szerint Sam Altman OpenAI-vezérigazgatóban „egyáltalán nem bízik”, és úgy véli, Altman, Mark Zuckerberg és Elon Musk érti a kockázatokat, mégis a profit előrébb való.

Az Egyesült Államok elnöke elutasítja a mesterséges intelligencia globális szabályozását, és a frontvonalbeli fejlesztők önszabályozását részesíti előnyben. Hinton ezzel szemben a finn elnök, Alexander Stubb és Norvégia miniszterelnöke, Jonas Gahr Støre kezdeményezését támogatja: a hivatalos felhívás szerint 32 ország 34 vezetője követeli a legfejlettebb modellek kötelező tesztelését, független értékelését és a súlyos biztonsági incidensek megosztását.

Hinton az amerikai Gyógyszerügyi és Élelmiszer-biztonsági Hivatal (FDA) gyógyszer-jóváhagyási modelljét hozta fel példaként: a cégeknek bizonyítaniuk kellene, hogy egy modell több hasznát hozza, mint kárát, mielőtt piacra kerül.

Mi jelent ez a gyakorlatban?

Hinton nem konkrét támadást jósolt, hanem egy olyan esemény lehetőségét vetítette fel, amely a kritikus infrastruktúrát érinti. Magyarországon is ez érintené a legközvetlenebbül a mindennapokat: a banki és fizetési rendszerek, az energiahálózat vagy a nagyvállalati folyamatok egyre nagyobb része függ a digitális szolgáltatásoktól.

Az Európai Unió már elfogadta a mesterséges intelligencia-törvényt, ám Hinton figyelmeztetése arra mutat rá, hogy a legfejlettebb modellek globális versenyben fejlődnek, és a nemzetközi koordináció elmaradása önmagában nem zárja ki a súlyos incidenseket. A tudós végül mégis optimistább hangot ütött meg: szerinte valószínűleg még irányítás alatt tartjuk a technológiát, de ehhez komoly erőfeszítés kell.