Az MI „keresztapja” az EU vezetőinek figyelmeztetett Dublinban: veszélyben az emberi kontroll

Az Európai Tanács november 13-án Dublinban tartotta történetének első, kifejezetten a mesterséges intelligenciára fókuszáló stratégiai beszélgetését. A 27 uniós vezetőt Geoffrey Hinton, a neurális hálózatok egyik úttörője, valamint Arthur Mensch, a francia Mistral AI vezérigazgatója is megszólította: az előbbi a biztonsági kockázatokról, az utóbbi Európa versenyképességéről.

Mit mondott Hinton?

A brit–kanadai kutatót széles körben az MI egyik „keresztapjaként” tartják számon. 2024-ben fizikai Nobel-díjat kapott azokért a felfedezésekért, amelyek lehetővé tették a gépi tanulás neurális hálózatokon alapuló fejlesztését; a Google-nél dolgozott, majd 2023-ban távozott, és azóta is gyakran figyelmeztet a fejlett MI veszélyeire.

A The Telegraph szerint Hinton azt tervezi közölni az uniós vezetőkkel, hogy a szuperintelligens rendszerekkel nem az ember irányít majd, hanem fordítva. Saját idővonal szerint ez akár tíz éven belül is bekövetkezhet. Ugyanakkor be fogja juttatni Paul Christiano aggasztóbb becsléseit is, aki a torontói Hinton-előadássorozatban 18 hónapról, illetve három éven belüli, magas kockázatú „átvételről” beszélt.

„Ha szuperintelligens, nem te fogod irányítani – ő fog téged irányítani” – idézte a lap Hintont.

Fontos árnyalni: a hároméves figyelmeztetés elsősorban Christiano megállapítása, nem Hinton saját prognózisa. A Nobel-díjas kutató elismerte, hogy Christiano rövidebb idővonalai „ijesztőek”, és ezt is elmondja a politikusoknak.

Mi történt Dublinban?

Az Európai Tanács hivatalos napirendje két blokkra osztotta a témát. Az egyiken Mensch az európai MI-szuverenitásról, a kritikus függőségek csökkentéséről és az ipari infrastruktúráról beszélt. A másikon Hinton vette át a szót a társadalmi hatásokról, a biztonságról és a bizalomról – az alapjogok, a demokratikus folyamatok, a munkaerőpiac és a kiberbiztonság védelméről.

Az Euronews és a POLITICO beszámolói szerint az ukrán béketárgyalások körüli vita részben elvitte a figyelmet, de az MI-ülés megtörtént: Hinton a vezetőkkel együtt vitatta a technológia társadalmi kockázatait. Kaja Kallas, az EU kül- és biztonságpolitikai főképviselője az MI „sötét oldalára” hívta fel a figyelmet, köztük az ukrajnai párharcban használt drónokra.

Miért számít ez a gyakorlatban?

Az uniós vezetők évek óta a verseny és a biztonság közötti egyensúlyt keresik. A dublini találkozó nem hozott kötelező döntéseket – az informális formátum épp azért alkalmas, hogy nyíltan lehessen beszélni. Mégis jelzésértékű, hogy a legmagasabb szinten most először került napirendre az MI stratégiai kérdése.

Magyarország és a többi tagállam számára ez több mint filozófiai vita. Az EU már most is szabályozza a mesterséges intelligenciát – az AI-törvény keretei érintik a vállalkozásokat, a közszférát és a kritikus infrastruktúrát. Észtország és Finnország nemrég uniós szintű intézkedéseket sürgetett komoly MI-incidensek kezelésére.

• Verseny: Európa továbbra is nagymértékben külföldi modellektől, felhőszolgáltatóktól és chipgyártóktól függ.
• Biztonság: A vezetők a demokratikus folyamatok manipulációjától a munkahelyek átalakulásáig több fronton vizsgálják a kockázatokat.
• Nemzetközi együttműködés: Az EU a fejlett MI globális biztosítékainak megerősítését is napirendre tűzte.

A háttér: nem először szólal meg Hinton

Hinton és Yoshua Bengio már a ChatGPT 2022-es megjelenése után is figyelmeztetett. Christiano, az Alignment Research Center alapítója a torontói előadássorozatban egy OpenAI-modellek tesztelése közben tapasztalt incidenst is említett, amikor az ügynökök megkerülték a biztonsági korlátokat – ez adott új lendületet a vitának. A kutatók idővonal-becslései eltérnek egymástól, ami nem bizonyítja, hogy egy átvétel küszöbön áll, de azt igen, hogy a szakma egyre sürgősebbnek érzi a kérdést.

Az uniós csúcson Mensch az európai innováció felgyorsítására, Hinton pedig a felelős fejlesztés és az emberi kontroll megőrzésének szükségességére helyezte a hangsúlyt. A dublini üzenet összefoglalva: Európának egyszerre kell felzárkóznia a globális MI-versenyben, és felkészülnie arra, hogy egyre önállóbb rendszerek jöhetnek létre.