Mesterséges intelligencia
Az FBI jelzésére: chatbotnak írta ki gyilkossági terveit egy budapesti hallgató
Egy 22 éves, Magyarországon tanuló külföldi nőt az FBI értesítése nyomán fogtak el Budapesten, miután egy mesterséges intelligencia chatbotnak részletesen leírta, hogy ismerősét és annak családját tervezi megtámadni.
2 perc olvasás
Egyre gyakoribb, hogy a mesterséges intelligenciát működtető cégek életellenes tartalmakat továbbítanak a hatóságoknak. A legfrissebb magyar esetben egy amerikai jelzés indította el a nyomozást: november 8-án a Szövetségi Nyomozó Iroda (FBI) értesítette a Nemzeti Nyomozó Iroda (NNI) Transzatlanti Műveleti Osztályát arról, hogy egy Magyarországhoz köthető felhasználó erőszakos, életellenes kijelentéseket tett egy MI-chatbotnak.
Az ügy kirobbanása
Az NNI közleménye szerint az MI-felületet fejlesztő és üzemeltető vállalat – amelynek nevét a hatóság nem közölte – értesítette az FBI-t a gyanús beszélgetésről. A chatbotnak küldött üzenetekből kiderült: a felhasználó egy ismerőse házának nyitott ablakán keresztül akart bejutni, késsel meg akarta ölni, majd a családtagjaira is rátámadni.
Mivel a kijelentések egyértelműek voltak, a nyomozók időhúzás nélkül dolgoztak. Az alkalmazás adatai és a hazánkban élő külföldiek nyilvántartása alapján hamar azonosították a gyanúsítottat és a lehetséges áldozatot is.
Négy nap az értesítés és az elfogás között
Az NNI nyomozói a Magyarországra delegált FBI-ügynökökkel közösen azonosították a chatbot-használót. Kiderült: egy évek óta Budapesten tanuló, 22 éves külföldi nőről van szó.
November 12-én, csütörtökön az albérletében fogták el. Házkutatást végeztek: lefoglalták mobiltelefonját és számítógépét, a forenzikus csapat elektronikus adatokat mentett le róluk. A nőt emberölés előkészülete miatt hallgatták ki gyanúsítottként.
Részegségre hivatkozott, az ügyészség szabadon engedte
A vallomásában azt állította, részeg volt, amikor az MI-vel csevegett, a beszélgetésre nem emlékszik, és nem állt szándékában senkit megölni. Az NNI bűnügyi őrizetbe vette, és kezdeményezte letartóztatását – az ügyészség azonban a szabadlábra helyezés mellett döntött, így szabadlábon védekezhet.
Mit jelent ez az MI-felhasználók számára?
Az eset nem elszigetelt: szeptemberben hasonló úton, szintén FBI-jelzésre fogtak el egy 16 éves győri fiút, aki chatbotnak írt terrorfenyegetéseket. Mindkét ügyben ugyanaz a lánc működött: a platform üzemeltetője észlelte a veszélyes tartalmat, jelentette az amerikai hatóságoknak, akik értesítették a magyar rendőrséget.
Az NNI figyelmeztetése egyértelmű: az internetes kommunikáció nyoma marad, és chatbotokkal folytatott beszélgetésekben tett kijelentéseknek is lehetnek büntetőjogi következményei. A nagy nyelvi modellek általában nem továbbítanak minden üzenetet a hatóságoknak, de életellenes, közvetlen veszélyre utaló tartalom esetén a fejlesztők kötelesek beavatkozni – és ezt a gyakorlatban teszik is.
„Az ilyen felületeken leírt szavak sem feltétlenül maradnak következmények nélkül.” – NNI, police.hu
A technológiai oldal szempontjából az ügy három tanulságot hordoz: az MI-szolgáltatók biztonsági szűrői működnek, a nemzetközi hatósági együttműködés gyors lehet, és a chatbotnak küldött szövegek sem feltételezhetően privátak. Aki mesterséges intelligenciával „csak beszélget”, annak is számítania kell arra, hogy bizonyos tartalmak hatósági eljárást indíthatnak.
Jelen írás kizárólag tájékoztatási célt szolgál. A cikkben megjelenő információk nyilvánosak és mindenki számára elérhető adatok alapján kerültek felhasználásra.
