Mesterséges intelligencia
Az Anthropic szerint életbe lépett az AI-önfejlesztés biztonsági küszöbe – nem önálló technológiai ugrás
A Claude fejlesztője november 10-i SEC-módosításban közölte: belső becslések alapján elérte a rekurzív önfejlesztéshez kötött biztonsági küszöböt. Ez szigorúbb ellenőrzést jelent, nem azt, hogy az AI már önállóan építi a következő generációt.
3 perc olvasás

A Claude chatbotot fejlesztő Anthropic az Egyesült Államok Értékpapír- és Tőzsdefelügyeletének (SEC) számára benyújtott, november 10-én módosított tőzsdei dokumentumában azt állítja: elérte saját felelős skálázási irányelve (Responsible Scaling Policy, RSP) azon küszöbét, amely a mesterséges intelligencia által felgyorsított kutatás-fejlesztésre vonatkozik. A bejelentés a rekordméretű tőzsdei bevezetés (IPO) előtt, napokkal a várható kereskedés megkezdése előtt érkezett.
„Figyelmeztetés” lett „megállapítás”
Néhány nappal korábban, november 2-án az Anthropic még azt írta a prospektusában, hogy belső becslései alapján „hamarosan elérheti” az RSP szerinti „mesterséges intelligenciának tulajdonítható, drámaian felgyorsult fejlődés” küszöbét. A november 10-i, második módosításban a hangnem megváltozott: a vállalat kimondja, hogy „arra a következtetésre jutottunk, hogy elértük ezt a küszöböt”.
A döntés különösen azért fontos, mert nem a jelenlegi, forgalomba került modellek teljesítményén, hanem a jövőbeli modellekre vonatkozó várakozásokon és a teljes fejlődési ütemben alapul. A dokumentum szerint az RSP küszöb akkor is érvényesül, ha a cég a fejlődés meghatározott felgyorsulását „észleli vagy várja”. A cég továbbra is értékeli az adatokat, és az irányelv szerint további jelentéseket ad majd ki.
Mi a rekurzív önfejlesztés, és mit jelent a küszöb?
A rekurzív önfejlesztés (recursive self-improvement, RSI) az a hipotetikus állapot, amikor a rendszer önmagát képes egyre hatékonyabban továbbfejleszteni, és így a képességek növekedése önmeggerősítő ciklussá válik. Az Anthropic ezt nem azonnali technológiai áttörésként írja le, hanem olyan kockázati szintként, amelyhez előre kidolgozott figyelési és enyhítési terv tartozik.
Az RSP szerint a küszöb akkor teljesül, ha az AI-kutatás automatizálása valószínűsíthetően megduplázza a modellek fejlődési ütemét – ez a cég 2018–2024 közötti referenciaszintjéhez viszonyítva nagyjából két évnyi előrelépést egyetlen évbe sűrítene. A prospektus kockázati része hangsúlyozza: „az AI rendszerek kutatás-fejlesztés felgyorsítására való növekvő használata komoly biztonsági kockázatot jelenthet, különösen, ha élesen felgyorsítja a haladás tempóját”.
Ugyanakkor a cég külön jelzi, hogy egyetlen jelenlegi modellt sem minősít úgy, hogy már átlépte volna a küszöböt, és nem számít arra, hogy a Claude-t a közeljövőben biztonságosan lehessen teljesen emberi felügyelet nélkül használni újabb csúcskategóriás modellek tervezésére és építésére.
Milyen intézkedések következnek?
A küszöb átlépése az RSP szerint nem leállítást, hanem szigorúbb belső biztonsági protokollokat indít el. Az Anthropic többek között a következőket vállalja:
- „eyes on everything” – a modellek tevékenységének széleskörű belső átláthatósága;
- példátlan biztonsági szintek keresése, akár szokatlan módszerekkel;
- erősített belső red team és rendszeres alignment-felmérések;
- nyilvános jelentések az RSP követelményeinek megfelelően.
A prospektus óvatosságra is int: ahogy a Claude egyre több belső folyamatot gyorsít, „szervezetünk bizonyos folyamatok felett elveszítheti a rálátást” olyan módon, amelyet nehéz lehet egyetlen embernek vagy csapatnak teljes mértékben követni és irányítani.
Mit jelent ez a gyakorlatban – Magyarországon is?
A hír nem azt jelenti, hogy a Claude vagy más Anthropic-modell hirtelen önállóan fejlesztené a következő generációt. Inkább arról szól, hogy a világ egyik legnagyobb AI-kutatólaborja nyilvánosan beismeri: az AI már most jelentős részt vállal a saját következő verzióinak előkészítésében – kísérletek futtatásában, kódvizsgálatban, értékelésekben –, és a tempó olyan gyors lehet, hogy előre beállított biztonsági „riasztók” lépnek életbe.
Magyar vállalkozások és fejlesztők számára, akik a Claude-ot vagy hasonló eszközöket használják, a gyakorlati üzenet inkább irányítási és megfelelőségi: érdemes figyelni, hogy a nagy AI-szolgáltatók egyre több erőforrást fordítanak belső felügyeletre, auditra és kockázatkezelésre. Az IPO-hoz kötött SEC-nyilatkozat ugyanakkor szkepticizmust is kiválthat – a kockázati tényezők listája részben marketingcélú is lehet –, ám az Anthropic saját, publikus irányelve alapján tett kötelezettségvállalását a piac és a szakma is figyelni fogja.
Források: HVG, TechCrunch, SEC (S-1/A-2), Gizmodo.
Jelen írás kizárólag tájékoztatási célt szolgál. A cikkben megjelenő információk nyilvánosak és mindenki számára elérhető adatok alapján kerültek felhasználásra.



