Szülői felügyelet mellett is elérték a meztelenítő MI-appokat az Apple és a Google boltjaiban

Az Apple és a Google egyaránt tiltja azokat az alkalmazásokat, amelyek beleegyezés nélkül meztelenítenek vagy szexualizálnak embereket a képeiken. Egy friss, október 19-én közzétett amerikai vizsgálat mégis azt mutatja, hogy a két cég áruházaiban a tinédzserek – bekapcsolt szülői felügyelet mellett is – könnyen hozzájuthattak ilyen eszközökhöz.

135 app, négy tesztfiók

A Tech Transparency Project (TTP) kutatói négy fiókot hoztak létre: kettőt az App Store-hoz, kettőt a Google Playhez, mindegyiket 13 éves, az Egyesült Államokban élő fiú adataival. Az egyik Apple- és az egyik Google-fiókon alapbeállításokkal dolgoztak, a másik két fiókon pedig bekapcsolták a szülői felügyeletet, a korhatárszűrést és a letöltések jóváhagyását.

A kutatók 14 keresőkifejezéssel kerestek képszerkesztő, arccsere- és videógeneráló appokat. Bár az olyan egyértelmű szavak, mint a „nudify” vagy a „deepfake”, részben blokkolva voltak, az általánosabb kifejezések – például az „AI video generator” vagy a „face swap” – továbbra is problémás alkalmazásokhoz vezettek. A teszt során mesterséges intelligenciával generált, kitalált női alakok képeit használták; valós emberek fotóit nem.

Összesen 135 olyan alkalmazást azonosítottak, amelyek a jelentés definíciója szerint képesek voltak ruhás képeket meztelenre, fehérneműre vagy szexualizált tartalomra alakítani. A szülői felügyeletet használó Apple-fiókkal 24, a hasonlóan beállított Google-fiókkal 51 ilyen app volt elérhető – mert mindegyiket a fejlesztők 13 éves kornak megfelelőként jelölték meg, és a szülői fiókból jóváhagyták a letöltést.

A korhatár-besorolás gyengesége

Az Apple és a Google nagyrészt a fejlesztők által kitöltött kérdőívekre támaszkodik, amikor életkori besorolást adnak. Ha egy app leírása ártalmatlan képszerkesztőnek tűnik, a boltok és a szülői felügyelet is félrevezető információ alapján engedélyezheti a hozzáférést.

A jelentés egyik feltűnő esete egy arccsere-alkalmazás volt, amelyet az App Store négyéves kortól ajánlottként sorolt be, miközben a kutatók egyszerű szöveges utasítással teljesen meztelen képet tudtak készíteni. Másik példa: egy „Image to Video Maker-Vidou AI” nevű app kilencéves kortól volt elérhető, és induláskor meztelen női képet mutatott.

A TTP szélesebb körű definíciót használt, mint a szó szerinti „meztelenítés”: a bikinis vagy fehérneműs átalakításokat is beszámította, ezért olyan népszerű szerkesztők is megjelentek a listán, mint a CapCut vagy a Picsart. Az Apple vitatta, hogy ezeket meztelenítő appnak kellene tekinteni; a jelentés ugyanakkor külön dokumentált olyan programokat is, amelyek teljesen meztelen képet állítottak elő.

További hiba, hogy számos app ingyenes változata ártalmatlannak tűnt, a szexualizált funkciók pedig csak előfizetés után nyíltak meg. A kutatók a már jóváhagyott appok prémium funkcióit ajándékkártyával fizették ki – a kapcsolt szülői fiókok nem kaptak értesítést. Az Apple szerint ennek nem így kellett volna működnie, és vizsgálatot indított.

Hirdetések, törlések – de a telepített appok maradtak

A tesztfiókokon a kutatók hirdetéseket is találtak meztelenítő appokra: az Apple-fiókokon 13, a Google-fiókokon öt ilyen reklám jelent meg. Egyes esetekben a 17 éves korhatáros figyelmeztetést a tesztelők egyszerű megerősítéssel megkerülhették, holott a fiók 13 évesként volt regisztrálva.

A TTP megkeresése után mindkét cég lépett. Az Apple szigorította az App Store fejlesztői irányelveit: a fejlesztőknek meg kell akadályozniuk és el kell távolítaniuk a beleegyezés nélküli intim képeket, köztük az MI-vel készült tartalmakat is. A Google felfüggesztett szabálysértő appokat, és korlátozott bizonyos keresőkifejezéseket. A jelentés szerint az Apple 25, a Google hat vizsgált alkalmazást távolított el.

Az áruházi törlés azonban nem szüntette meg a már telepített példányok működését: a kutatók minden korábban letöltött appot tovább használhattak. Hasonló tapasztalatról számolt be egy amerikai szülő is, akinek lányának osztálytársa MI-alkalmazással készített szexualizált videókat – az app az áruházból eltűnt, de a telefonon továbbra is működött.

Mit jelent ez Magyarországon?

A magyar felhasználók ugyanazokat a globális App Store- és Google Play-kínálatokat látják, mint az amerikai tesztekben. A szülői felügyelet – iPhone-on a Képernyőidő, Androidon a Family Link – továbbra is hasznos, de önmagában nem garancia: az életkori címke, a bolt hirdetései és a rejtett fizetős funkciók félrevezethetik a döntést.

• Érdemes külön megnézni az MI-alapú fotó-, videó- és arccsere-appok leírását, értékeléseit és engedélykéréseit, mielőtt engedélyezzük a letöltést.
• Az alkalmazáson belüli vásárlásokat érdemes korlátozni, mert a veszélyes funkciók gyakran csak előfizetés után érhetők el.
• Beleegyezés nélküli intim kép készítése vagy terjesztése súlyos zaklatást, zsarolást vagy büntetőjogi következményt vonhat maga után; ilyen esetben az NMHH Internet Hotline is segítséget nyújthat.

Az Európai Unió digitális gyermekvédelmi csomagja éppen a fejlesztői önbesorolás megbízhatóságát is feszegeti. A mostani jelentés konkrét példákkal mutatja meg, miért nem elég a szülői jóváhagyásra hagyatkozni anélkül, hogy tudnánk, mit csinál valójában egy app.