A hónap végén megjelenő új Harari-könyvnek a technológia veszélyeiről szóló fejezetéből szemezgetünk, a teljes fordítás pedig a Ténygyár oldalán olvasható.
A demokrácia nem szükségszerű. A demokrácia utóbbi évtizedekben elért sikerei csak villanások a történelem egészében. A monarchiák, az oligarchiák vagy egyéb autoriter módok sokkal gyakoribb formái voltak az emberi irányításnak. A liberális demokráciák megjelenése a szabadság és az egyenlőség eszméjéhez kapcsolódik, ez mára magától értetődőnek és visszafordíthatatlannak tűnhet. De ezek az eszmék sokkal törékenyebbek, mint hinnénk. A demokrácia 20. században elért sikerei olyan technikai körülményekből fakadtak, amelyek most tiszavirágéletűnek tűnnek.
A 21. század második felében a liberalizmus veszíteni kezdett a hitelességéből. Egyre hangosabban és egyre többen kérdőjelezik meg, hogy a liberális demokrácia képes-e gondoskodni a középosztály valódi igényeiről; a politika egyre törzsibb formákat ölt; és egyre több ország vezetője hajlamos demagógiára és autokráciára. Ennek a politikai váltásnak összetettek az okai, de úgy tűnik, hogy összefügg a jelenlegi technológiai fejleményekkel. A demokráciának eddig kedvező technológia változóban van, és a mesterséges intelligencia (MI) fejlődésével ez még tovább változhat. Ilyen körülmények között a liberális demokrácia és a piacgazdaság elavulttá válhat.
Lehet, hogy egy átlagember nem érti részletekbe menően a mesterséges intelligenciát (MI) vagy a biotechnológiát, azt azonban nagyon is érezheti, hogy elhalad mellette a jövő. 2018-ban az átlagember jelentéktelennek érezheti magát. A demokráciára jellemző decentralizált döntéshozatal tette lehetővé a liberális demokráciák számára azt, hogy túlmutassanak más államokon, és növekvő bőséget biztosítsanak a népüknek. A liberalizmus összehozta a proletariátust a burzsoáziával, a hívőt az ateistákkal, az őslakosokat a bevándorlókkal és az európaiakat az ázsiaiakkal úgy, hogy mindenkinek egy nagyobb szeletet ígért a tortából. Egy folyamatosan növekvő tortával ez lehetséges is volt. És bár a torta mérete még mindig egyre nagyobb, a konstans gazdasági növekedés nem orvosolhatja a fennálló társadalmi problémákat, mivel a további növekedést épp azokra az újszerű technológiákra alapozzuk, amelyek ezeket a feszültségeket okozzák.
Ahogy sok ember veszíti el a gazdasági erejét, úgy lesz oda a politikai hatalmuk is. Ugyanazok a technológiák, amelyek milliárdokat tehetnek gazdaságilag jelentéktelenné, megkönnyíthetik a nyomon követésüket és az ellenőrzésüket. Nincs különösebb okunk azt feltételezni, hogy a mesterséges intelligencia fejlődésének hatására öntudatot fejlesztenének ki a gépek. Sokkal inkább attól kellene félni, hogy az MI mindig engedelmeskedni fog az emberi mestereinek, és sosem fog fellázadni a parancsaik ellen. A mesterséges intelligencia olyan eszköz és fegyver, amelyhez hasonlót még sosem fejlesztett az emberiség; szinte biztosan lehetővé fogja tenni az erősek számára azt, hogy tovább növeljék a már meglévő hatalmukat.
Például képzeljük el azt, hogy a jelenlegi észak-koreai rezsim a jövőben fejlettebb technológiához jut: egy biometrikus karkötő viselésére kényszerítik, amely figyelemmel kísér mindent, amit mondanak, a vérnyomásukat és az agyi aktivitásukat is. Az emberi agy egyre jobb megértése és a gépi tanulás ereje együtt azt eredményezheti, hogy ezekre támaszkodva az észak-koreai kormány képes lesz minden egyes polgár gondolkodását monitorozni minden egyes időpillanatban. Ha egy észak-koreai állampolgár biometrikus eszközén lévő szenzorok a harag jeleit mutatják (magasabb vérnyomás, fokozott aktivitás az agyában), mikor az illető Kim Dzsongun képére tekint, könnyen előfordulhat, hogy másnapra a kényszermunkatáborban találhatja magát.
De az ilyen és ehhez hasonló erőteljes módszerek általában még nem tűnnek szükségesnek. Egyes országokban a szabad választás és a szabad szavazás látszata továbbra is megmaradhat, még akkor is, ha a közvélemény egyre kevésbé tud ténylegesen hatással lenni az ellenőrzésre. Az biztos, hogy a szavazók érzelmeinek manipulálása nem újdonság. De ha valaki (akár San Franciscóban, akár Pekingben vagy Moszkvában) képes lesz megszerezni a technikai képességet az emberi szív manipulálására – megbízhatóan, olcsón és széles körben hasznosíthatóan –, a demokratikus politika egy érzelmi bábszínházzá fog változik.
Nem valószínű, hogy a közeljövőben érző gépek lázadásával fogunk találkozni, de előfordulhat, hogy olyan botok hordáival kell majd megküzdenünk, amelyek tudják, hogyan kapcsolják be az érzelmeinket, és rejtélyes képességüket arra fogják felhasználni, hogy valamit megpróbáljanak eladni nekünk, legyen az egy autó, egy politikus vagy akár egy egész ideológia. A botok feltárhatják a legmélyebb félelmeinket, gyűlöleteinket és vágyainkat, és ezeket hatékonyan használhatják fel ellenünk. Erről már kaptunk egy kisebb ízelítőt néhány friss választás és népszavazás keretein belül. Míg a tudományos fantasztikus művek tűzzel és füsttel átitatott drámai apokalipszist festenek elénk, a valóságban inkább egy sokkal banálisabb, klikkelési apokalipszissel fogunk találkozni.
