Ugrás a tartalomra
Kódvéna

Mesterséges intelligencia

Az Anthropic szerint életbe lépett az AI-önfejlesztés biztonsági küszöbe – nem önálló technológiai ugrás

A Claude fejlesztője november 10-i SEC-módosításban közölte: belső becslések alapján elérte a rekurzív önfejlesztéshez kötött biztonsági küszöböt. Ez szigorúbb ellenőrzést jelent, nem azt, hogy az AI már önállóan építi a következő generációt.

3 perc olvasás

Az Anthropic szerint életbe lépett az AI-önfejlesztés biztonsági küszöbe – nem önálló technológiai ugrás
Kép: Software: Anthropic PBC Screenshot: VulcanSphere · Wikimedia Commons · Public domain

A Claude chatbotot fejlesztő Anthropic az Egyesült Államok Értékpapír- és Tőzsdefelügyeletének (SEC) számára benyújtott, november 10-én módosított tőzsdei dokumentumában azt állítja: elérte saját felelős skálázási irányelve (Responsible Scaling Policy, RSP) azon küszöbét, amely a mesterséges intelligencia által felgyorsított kutatás-fejlesztésre vonatkozik. A bejelentés a rekordméretű tőzsdei bevezetés (IPO) előtt, napokkal a várható kereskedés megkezdése előtt érkezett.

„Figyelmeztetés” lett „megállapítás”

Néhány nappal korábban, november 2-án az Anthropic még azt írta a prospektusában, hogy belső becslései alapján „hamarosan elérheti” az RSP szerinti „mesterséges intelligenciának tulajdonítható, drámaian felgyorsult fejlődés” küszöbét. A november 10-i, második módosításban a hangnem megváltozott: a vállalat kimondja, hogy „arra a következtetésre jutottunk, hogy elértük ezt a küszöböt”.

A döntés különösen azért fontos, mert nem a jelenlegi, forgalomba került modellek teljesítményén, hanem a jövőbeli modellekre vonatkozó várakozásokon és a teljes fejlődési ütemben alapul. A dokumentum szerint az RSP küszöb akkor is érvényesül, ha a cég a fejlődés meghatározott felgyorsulását „észleli vagy várja”. A cég továbbra is értékeli az adatokat, és az irányelv szerint további jelentéseket ad majd ki.

Mi a rekurzív önfejlesztés, és mit jelent a küszöb?

A rekurzív önfejlesztés (recursive self-improvement, RSI) az a hipotetikus állapot, amikor a rendszer önmagát képes egyre hatékonyabban továbbfejleszteni, és így a képességek növekedése önmeggerősítő ciklussá válik. Az Anthropic ezt nem azonnali technológiai áttörésként írja le, hanem olyan kockázati szintként, amelyhez előre kidolgozott figyelési és enyhítési terv tartozik.

Az RSP szerint a küszöb akkor teljesül, ha az AI-kutatás automatizálása valószínűsíthetően megduplázza a modellek fejlődési ütemét – ez a cég 2018–2024 közötti referenciaszintjéhez viszonyítva nagyjából két évnyi előrelépést egyetlen évbe sűrítene. A prospektus kockázati része hangsúlyozza: „az AI rendszerek kutatás-fejlesztés felgyorsítására való növekvő használata komoly biztonsági kockázatot jelenthet, különösen, ha élesen felgyorsítja a haladás tempóját”.

Ugyanakkor a cég külön jelzi, hogy egyetlen jelenlegi modellt sem minősít úgy, hogy már átlépte volna a küszöböt, és nem számít arra, hogy a Claude-t a közeljövőben biztonságosan lehessen teljesen emberi felügyelet nélkül használni újabb csúcskategóriás modellek tervezésére és építésére.

Milyen intézkedések következnek?

A küszöb átlépése az RSP szerint nem leállítást, hanem szigorúbb belső biztonsági protokollokat indít el. Az Anthropic többek között a következőket vállalja:

  • „eyes on everything” – a modellek tevékenységének széleskörű belső átláthatósága;
  • példátlan biztonsági szintek keresése, akár szokatlan módszerekkel;
  • erősített belső red team és rendszeres alignment-felmérések;
  • nyilvános jelentések az RSP követelményeinek megfelelően.

A prospektus óvatosságra is int: ahogy a Claude egyre több belső folyamatot gyorsít, „szervezetünk bizonyos folyamatok felett elveszítheti a rálátást” olyan módon, amelyet nehéz lehet egyetlen embernek vagy csapatnak teljes mértékben követni és irányítani.

Mit jelent ez a gyakorlatban – Magyarországon is?

A hír nem azt jelenti, hogy a Claude vagy más Anthropic-modell hirtelen önállóan fejlesztené a következő generációt. Inkább arról szól, hogy a világ egyik legnagyobb AI-kutatólaborja nyilvánosan beismeri: az AI már most jelentős részt vállal a saját következő verzióinak előkészítésében – kísérletek futtatásában, kódvizsgálatban, értékelésekben –, és a tempó olyan gyors lehet, hogy előre beállított biztonsági „riasztók” lépnek életbe.

Magyar vállalkozások és fejlesztők számára, akik a Claude-ot vagy hasonló eszközöket használják, a gyakorlati üzenet inkább irányítási és megfelelőségi: érdemes figyelni, hogy a nagy AI-szolgáltatók egyre több erőforrást fordítanak belső felügyeletre, auditra és kockázatkezelésre. Az IPO-hoz kötött SEC-nyilatkozat ugyanakkor szkepticizmust is kiválthat – a kockázati tényezők listája részben marketingcélú is lehet –, ám az Anthropic saját, publikus irányelve alapján tett kötelezettségvállalását a piac és a szakma is figyelni fogja.

Források: HVG, TechCrunch, SEC (S-1/A-2), Gizmodo.

Jelen írás kizárólag tájékoztatási célt szolgál. A cikkben megjelenő információk nyilvánosak és mindenki számára elérhető adatok alapján kerültek felhasználásra.

Források

Kapcsolódó hírek

Mesterséges intelligencia

Ha tiltják az AI-t, elveszíthetik a Google keresőt – amerikai iskolák kemény választással néznek szembe

A Google november elején bejelentette: az amerikai iskolák jövőre csak akkor adhatnak hozzáférést a keresőhöz, ha elfogadják az AI-funkciókat is. Azok a tankerületek, amelyek teljesen kizárják a mesterséges intelligenciát, a diákok számára gyakorlatilag leválaszthatják a világ legnépszerűbb keresőjéről.

3 perc olvasás

Írj vendégcikket a Kódvéna Híreibe – ingyen

Szakmai cikked a nevedet és a weboldalad linkjét viszi, cserébe egy rólunk szóló cikket kérünk az oldaladon. Kölcsönösen erősítjük egymás láthatóságát.

Részletek

Új dimenzió a webfejlesztésben

Akár új weboldal, webshop, webes alkalmazás akár módosítás, néhány órán belül elkészülünk

Írd le az asszisztensnek mit szeretnél, aki kérdez és végigvisz a folyamatokon

Az ügyfélportálon azonnal látod, hogy állunk és folyamatosan tájékoztatunk mindenről

Közben bármikor kérhetsz módosításokat

A weboldaladon mindent szerkeszthetővé teszünk, az ügyfélportálodon bármikor módosíthatod a weboldalad

Bármikor új ticketet nyithatsz, és az asszisztens bármilyen módosítási és fejlesztési igényedet azonnal elvégzi

Kedvező áron, gyorsan, minőségi, keresőoptimalizált weboldalt kapsz, amit az AI is ajánlhat leendő ügyfeleidnek

Ajánlatkérés

Weboldalt, webshopot vagy egyedi rendszert szeretnél?

Írd le pár mondatban, mire van szükséged. Az asszisztens kérdez, ha kell, összeállítja a felmérést, és ajánlatot kapsz.

Leggyorsabb mód

vagy

Az első üzenet után a beszélgetés a Kódvéna asszisztensnél folytatódik. Jelszót, kulcsot ne írj ide.