„Csak nézzétek, a drága jószág / hogy elvadult, a gép! / Törékeny falvak reccsennek össze, / mint tócsán gyönge jég, / városok vakolata omlik, / ha szökken; s döng az ég.” (József Attila: A város peremén)
Napjainkban látványos, mondhatjuk, félelmetes sebességgel hódit a gépi tudás, elterjedtebb szóhasználattal a mesterséges intelligencia (MI). Áldás vagy átok? Valójában mindkettő, mint bármely technikai újdonság és tudás – a tűz megszelídítésétől és alkalmazásától kezdve az űrhajózásig, vagy a számítógépek tömeges használatáig. A tűz áldásait élvezi az egész emberiség, miatta csak szegény Prométheusz szenvedett, míg az utóbb felsoroltak hatalmas előnyei mellett a sötét felhasználásaikból eredő károkat még csak most kezdjük megismerni, sorra venni.
A gépi, mesterséges értelemnek az emberiség szolgálatába állítása nem napjaink ötlete. Nem túl messze visszamenve az időben, elég, ha csak a félelmetes agyagszolgát, a Gólemet említjük. Ámbár őt még gazdája aránylag egyszerűen tudta megfékezni, sőt, élettelenné tenni. Századokkal későbbi, már a modern kor kulturális terméke a nagyszerű cseh író, Karel Čapek 1920-ban megjelent színdarabja, az R.U.R. (Rossum Univerzális Robotjai). Nála szerepelnek először az önállóan működő gépek, az alantas, gépies munkákat végző robotok. Alig két évtizeddel később, 1942-ben jelent meg egy húszas éveiben járó ifjú biokémikus sci-fi novellájában az immár önálló munkák végzésére képes gépembernek, a robotnak a társadalmi beilleszkedését szigorúan előíró szabályozás-hármas. Mára már közismertté vált Isaac Asimov, az orosz-zsidó származású, de kiskorától Amerikában élő író robot-törvénye, hiszen azóta immár két egymást követő nemzedéknek is kedvelt, népszerű olvasmányai lettek az emberiség lehetséges jövőjét firtató művei (például a hétkötetes Alapítvány-sorozat; A mezítelen nap; Én, a robot).
Érdemes felidézni Asimov háromelemű robotika törvényét: (1.) A robotnak nem szabad kárt okoznia emberi lényben, vagy tétlenül tűrnie, hogy emberi lény bármilyen kárt szenvedjen; (2.) A robot engedelmeskedni tartozik az emberi lények utasításainak, kivéve, ha ezek az utasítások az első törvény előírásaiba ütköznének; (3.) A robot tartozik saját védelméről gondoskodni, amennyiben ez nem ütközik az első vagy második törvény bármelyikének előírásaiba.
Szép, bölcs előírások. Baj, hogy csak a békés alkalmazások alapszabályai ezek, merthogy az emberiség – mint minden más remek technikai újítást, eszközt – egyúttal ezeket az eszközöket is nagy hatékonysággal alkalmazza háborúra, ölésre, terület-, vagyon- és hatalomszerzésre. Elég itt néhány példát említenem. A szabad mozgás, szállítás nagyszerű eszközét, a gépkocsit páncélkocsiként lehet hasznosítani a harcokban, a nagy távolságokat gyorsan lebíró repülőgépek szőnyegbombázásra is használhatók, az emberi kommunikációt hatalmasan kiterjesztő, rendkívül sokféle használatra alkalmas számítógépek és a belőlük felépülő hálózatok, nem kevésbé az űrkutatás a háborúk meg a terrortámadások, az alantas kommunikációk alapvető eszközei. Igaz, mindezeket már eleve katonai célokra fejlesztették ki.
Napjainkban drámai erővel szembesülhetünk egy technikai alkalmazás hatalmas léptékű fejlődésével és alkalmazásával. Szinte ugrásszerű sebességgel fejlődnek az önmagukat tanulás által fejleszteni is tudó, gépi mesterséges intelligenciával bíró alkalmazások (immár teljesen elterjedt angol rövidítéssel: AI – bár én, magyar lévén, szívesebben használom az MI rövidítést). Mostanság szinte napról napra új és újabb szenzációs virtuális robotok jelentkeznek a neten, a médiában, sőt, akár személyes életünkben is, kitéve akármelyikünket megtévesztésnek, csalásoknak is. A lényegi veszélyeket az rejti magában, hogy ezek az intelligens eszközök a felhalmozott és rendszerezett adataik alapján tanulásra képesek, és ezáltal tudásukat fejleszteni, módosítani, bővíteni és finomítani is tudják. Esetenként immár akár emberi közreműködés nélkül is. A mostani amerikai vezetés által kipécézett, tán leépítésre is ítélt FBI (Federal Bureau of Investigation, az USA Szövetségi Nyomozóirodája) 2024-ben, akkor még nagy tekintélyű szervezetként közreadott ún. Internet Bűnözési Tanulmányából kiderül, hogy a fent említett manipulációkból és eseményekből származó kár meghaladta a 10 milliárd dollárt. Ma már kijelenthető, hogy a számszerűsíthető károknál is veszedelmesebbek az álságos média-hírek és -események, meg természetesen a politikában, az üzleti folyamatokban, a mindennapi életben elkövetett – és főleg, a jövőben egyre gyakrabban elkövetendő – megtévesztések.
Emlékezhetünk a néhány hete Kaliforniában pusztító borzalmas tűzvészre. Rettenetesen gyors és szinte megállíthatatlan terjedését a védőintézkedések gyenge, igencsak hézagos léte is okozta. Egyebek között rosszul tervezték a hatalmas víztározómedence karbantartásának időzítését, emellett nagyon nem bölcsen, holmi erősen túlzó környezetvédelmi felfogásból nem irtották a száraz aljnövényzetet. Némileg hasonlóvá válhat a generatív, vagyis a tanuló, önmagát fejlesztő MI tűzvészsebességű és -elterjedésű használata is. Nem holnapután, nem is holnap, hanem akár már ma. Rendkívüli veszélyt jelent, hogy erős érzelmi hatásokat válthatnak ki az élethű avatárok (a hindu vallásból származó fogalmat a mára vetítve: ember külsejű, MI-vel kommunikáló mesterséges lények) által küldött üzenetek. Különösen a gyermekek és az ifjak, de persze a hiszékeny felnőttek körében is. Természetesen igen hatékony eszközzé válhat a generatív MI a politikában, a csoportos megtévesztésekben, uszításokban, befolyásolásban.
Nem meglepő, hogy máris nagyon erősen terjed a nézet a gondolkodók, főleg a tudomány emberei körében: hogyan lehet vagy legalábbis lehetne korlátozni ezeket a veszélyeket. Érdekes javaslat jelent meg például a minap az Elektromos és Elektronikus Mérnökök Nemzetközi Egyesületének (IEEE) folyóiratában Dariusz Jemielniak lengyel professzortól, aki felveti, hogy célszerű bevezetni Asimov híres három robot-törvénye mellé egy negyediket. Ez az új törvény az immár intelligens, önmagukat fejleszteni és a velük kommunikáló embert megtéveszteni képes „okos” robotok korlátozását szolgálhatja.
Íme, a javasolt, negyedik robot-törvény: A robotnak vagy mesterséges intelligenciának tilos megtévesztenie embert azáltal, hogy emberi lényként testesíti meg magát.
Természetesen ennek az igencsak általános rendelkezésnek a kidolgozásához és főleg a betartatásához rendkívül kemény, hosszas és sokszorosan egyeztetett tudományos, technikai és politikai erőfeszítések kellenek, vagy gyakorlatiasabban szólva: kellenének.
***
Megvalósíthatók-e a tudósok által – hiszen Asimov is tudós biokémikus volt, nemcsak nagyszerű író – megfogalmazott robot-törvények? Erősen kételkedhetünk benne, bár egyes esetekben és korlátozottan azért némi valószínűsége lehet. Példát adnak erre a nukleáris fegyverek bevetését szabályozó megállapodások, amelyek eddig megakadályozták e szörnyű eszközök alkalmazását.
Ámbár… Most, hogy ezekről a gondokról írok, elővettem egy már régebben olvasott, érdekes könyvet. A magyar, méghozzá, eredeti szakmája szerint gépészmérnök szerzőnek, Szathmári Sándornak (1897–1974), a nagyszerű Kazohinia írójának kései, 1972-ben megjelent műve, a Gépvilág igencsak elgondolkodtatott. (Tartok tőle, ma már kevesen ismerik Kazohiniát, ezt a valóban kiemelkedő filozófiai töltetű művet. Ezért úgy érzem, érdemes pár szót szólnom e regény nagyszerű látomásáról. Az erősen korlátozott gondolkodású Gulliver doktor ismét hajótörést szenved és sikeresen egy szigetre kerül. Ahol egyrészt a hineknek, a teljesen megvalósult kommunizmus megrendítően riasztó társadalmával találkozik, másrészt pedig a behinek, korunk lesújtó szatírával megjelenített kapitalista világával. Nem meglepő, hogy e művet egyaránt üldözték a Horthy- és a Rákosi-korszakban is. Csak a kései Kádár-korban jelenhetett meg húzások nélkül.)
A Gépvilág című írás napjaink világának, tendenciának megrendítően döbbenetes leírása: „Amilyen mértékben csökkent a fizikai munka, éppúgy szaporodott a szellemi, és ez hovatovább fárasztóbb lett, mint a fizikai. Az automatizált termelés olyan tudást igényelt, amelyet az emberi agy már nem tudott tárolni. Hiába osztották a termelést mind speciálisabb ágazatokra, ezeknek bármelyike is magasabb tudást igényelt az ember képességeinél. Így hódított mind nagyobb teret a gépekkel való tervezés.”
Azután fokról fokra a gépi intelligencia veszi át az emberektől a legmagasabb tervezési, majd irányítási tevékenységeket. Természetesen az egyes nagy országok az egyre okosabb és fejlődni is képes gépeket használják ki az egymás elleni területfoglalásokra, hódításokra, az ellenség leigázására. De a gépi „bölcsesség” fokról fokra teljesen felülírja a mesterséges intelligencia számára nem-logikusnak ítélt emberi törekvéseket – és végül kipusztítja a gépek felett uralmat vesztett emberiséget. A Földet birtokba veszi a gépek világa.
Lesújtó vízió. Bátran ellenvethetjük, hiszen ez csupán egy regényíró fantáziájának több mint fél évszázados terméke. Ámbár, rádöbbenhetünk, hogy George Orwell regénye, az 1984 is már háromnegyed évszázadnál régebben jelent meg, pedig napjainkban egyre aktuálisabb világunk nem egy helyén.
Szükségesek-e tehát a robotok működését szabályozó törvények, szerződések, korlátozások? Ez álkérdés, merthogy a válasz csakis igen lehet. Különösen, ha immár tevékenységeik a szellemi területeken is egyre meghatározóbbakká válnak. Még igencsak nehéz, hosszas kialakítást, újabb meg újabb egyeztetést, rengeteg időt, tárgyalást igénylő munka kell a szabályozások megfogalmazásához, nemkülönben a végrehajtást és az annak betartását biztosító ellenőrzések megvalósításához. Ezekhez képest Asimovnak a korábban csak fizikai munkát végző, ám egyre intelligensebb robotokba beépítendő hármas törvénye, meg Jemielniaknak a negyedik kiegészítése éppoly szép, bölcs és követendő előírás, mint a Mózes által a hegyről lehozott, Istentől elrendelt Tízparancsolat. Szép, bölcs és követendő, Isten által elrendelt parancsok ezek – ám következetesen és teljességgel mikor és mennyire tartotta be őket az emberiség?
***
A költő látomásával kezdtem ezt az írást, vele is fejezem be:
„És látjuk már, hogy nemsoká / mind térdre omlotok / s imádkoztok hozzá, ki pusztán / a tulajdonotok.”
