Dario Amodei, az épp tőzsdére készülő Anthropic vezérigazgatója először egy hosszú, elmélkedő írásban a saját honlapján figyelmeztetett arra szombaton, hogy vissza kellene fogni a mesterséges intelligencia fejlesztéséért folyó verseny tempóját, majd a CNN-nek adott egy nagyinterjút, amely teljes terjedelmében csak hétfő este (nálunk kedd hajnalban) lesz látható.
„Lassítanunk kell azt a tempót, amellyel javítjuk az MI-modellek képességeit. A fejlődés így is gyorsnak fog tűnni, és bölcsen kell felhasználnunk az így felszabaduló időnyereséget” – írta a világ egyik vezető AI-vállalatának első számú irányítója, akinek a felügyelete alá tartozik a Claude chatbot is.
Nem könnyű eligazodni időnként közzétett véleményén, mert egyszer a fejlesztések gyorsítása mellett teszi le a voksát, most viszont épp attól tart, eljön a végítélet napja. Ennek kapcsán azzal is megvádolták, hogy túlzó véleménye ha nem is teljesen alaptalan, de mindenképpen csak amolyan ijesztgetés.
Minapi esszéjében Amodei úgy fogalmazott: szerinte fennáll annak a veszélye, hogy az emberek elveszítik az irányítást a mesterséges intelligencia felett, és a technológiát „kibertámadásokra és bioterrorizmusra”, valamint súlyos gazdasági károk előidézésére is felhasználhatják.
A CNN-nek nyilatkozva pedig Amodei felszólította a szakma vezetőit az együttműködésre, hogy elkerüljék a „rossz irányokat”, és megelőzzék az AI emberiségre nézve káros következményeit. S ebben az interjúban is ellentmondásos félmondatok hangoznak el, mert szerinte az is veszélyes, ha a lassuló tempó következtében a technológia rossz emberek kezébe kerül. Ellenben a fékevesztett verseny hasonló eredményhez vezethet, rosszul használják fel az AI-képességeket.
A kattintott kőkorszakban élünk – Egy technológia önmagában nem jó vagy rossz, azt lehet jól vagy rosszul használniAz előzmények között talán nem mellékes, hogy az egyik alklmazott kutatója hasonló veszélyekre hivatkozva épp akkor mondott fel az Anthropicnál, amikor a cég nagy lépés, a tőzsdére menetel előtt áll. A nyilvánosság elé lépve és a közfigyelmét a helyzet súlyosságára irányítva Jacob Coxon ugyan 10 éven belül az emberiségre nézve veszélyt jelentő következményekről beszélt, amikor az ember felett az AI átveszi az uralmat, most azonban ez az időszak Amodei megfogalmazásában már 6-12 hónapra csökkent.
„Az AI-t fejlesztő emberek őszintén hisznek abban, hogy ez a technológia az évtized végére akár mindannyiunkat megölhet. Ez nem marketingfogás” – írta még kedden az X-en Jacob Coxon.
„Sőt, sok vezető és vezető kutató a sajtóban úgy fogalmaz, hogy józanul és megfontoltan hangozzon, miközben négyszemközt ugyanezek az emberek a félelmeikről beszélnek. Egyetlen más emberi tevékenység sem jelent ekkora veszélyt” – tette hozzá Coxon.
Amodei pedig mostani elemzésében ezt írta: a kockázatok akkor is komolyak, ha az AI előnyei akár az emberiség javára is változtathatják a világot. A mesterséges intelligencia ugyanis olyan gyorsan fejlődhet, hogy egy MI-ügynökökből álló raj akár hat-tizenkét hónap alatt képes lehet átvenni az irányítást az egész internet felett. Ez akár több száz milliárd dolláros kárt is okozhat – véli a vezérigazgató.
Amodei legfőképp azzal érvelt, hogy az utóbbi hónapokban a technológia drasztikus léptekkel haladt előre, és már arra is képes, hogy saját magát továbbfejlessze. Ezt ő rekurzív önfejlődésnek nevezte.
Példaként hozta fel az OpenAI és a Hugging Face között történt incidenst, amelyben az úgynevezett AI-ügynökök anélkül indítottak meg nem nevezett célpontok ellen kibertámadást, hogy arra bármilyen utasítást kaptak volna, sőt ezek a „rajok” összefogtak és együtt támadtak. A fanatikusság kifejezést helyénvalónak találta a jelenség leírására.
Jacob Coxon még ennél is drámaibb mondatokkal tette szemléletessé a ránk váró veszélyt a szintén a CNN-nek még szerdán adott interjújában: a rekurzív önfejlődés során fennáll annak az esélye, hogy mindannyian meghalunk.
Amodei nemcsak az amerikai fejlesztőket, de a nemzetközi vezető vállalatokat is arra szólította fel, hogy vállalják független, külső értékelők alkalmazását, akik teljes körű hozzáférést kapnának a cég működéséhez. Így lehetne valójában kiszűrni a lehetséges veszélyeket. A kormányoknak – a demokratikus és a nem demokratikus országoknak egyaránt – közös biztonsági szabványokat kellene kidolgozniuk.
Sam Altman, az OpenAI vezérigazgatója szinte azonnal reagált az Anthropic felvetésére, egyetértéséről biztosítva őt: „nagyszerű ötlet” független értékelőket alkalmazni, akik a vállalat munkatársaival azonos hozzáférést kapnak.
Elon Musk, az xAI vezetője, amely a Grok chatbotot fejleszti, azt írta az X-en: „Dariónak igaza van.”
Demis Hassabis, a Google DeepMind vezetője szintén megszólalt, csatlakozik a kezdeményezéshez.
Az emberi jelenlét lett az igazi luxusWashington egyelőre képtelen lépést tartani az AI gyors fejlődésével. A kongresszus megvitatta, de nem fogadott el átfogó MI-szabályozást. A Fehér Ház pedig még mindig nem döntött arról, ki feleljen a kormányon belül ezekért a fejlesztésekért.
Donald Trump ellenben nemet mondott a felszólításra, Kínára hivatkozva. Szerinte egyelőre Amerika vezet ebben a versenyben, s ha lelassítanák az AI-fejlesztéseket, azzal el is veszítené vezető szerepét az ország Kínával szemben. Aki nincs versenyben ezen a téren, az sehol sincs – fogalmazott az amerikai elnök.
Pedig már júliusban több mint 1300, vezető technológiai vállalatnál dolgozó alkalmazott tett közzé nyílt levelet a Fehér Ház nagy hatalmú urának címezve, amelyben már akkor a fejlesztések lassítását szorgalmazták.
A mesterséges intelligencia és a felelősségKié lesz az MI által teremtett jövő? – Elon Musk, a bőség ígérete és az ember helye