Az Internet Watch Foundation (Internetfigyelő Alapítvány, IWF) - cambridge-i székhelyű globális jótékonysági szervezet, amely az internetes gyermekabuzálással foglalkozik -, úgy találta, hogy a sötét weben arra buzdítják a pedofilokat, hogy használják a mesterséges intelligenciát (MI) arra, hogy meztelen képeket állítsanak elő gyerekekről. Olyan használati utasítást találtak, amelyikben egy rész arra bátorítja a pedofil bűnözőket, használják a “meztelenítő” eszközt, amivel a gyerekek által küldött képekről el lehet távolítani a fehérneműt. A MI-val manipulált képet ezután fel lehet használni a gyermek megzsarolására, hogy újabbakat csaljanak ki tőlük. A MI segítségével “megdöbbentően realisztikus” képeket tudnak előállítani a csalók. A 200 oldalas internetes kézikönyv névtelen szerzője azzal dicsekszik, hogy sikerült 13 éves lányokat rávennie arra is, hogy küldjenek meztelen képeket magukról. “Ez az első általunk látott bizonyítéka annak, hogy a zaklatók buzdítják és tanácsokkal látják el egymást, hogy a MI-t használják ilyen célokra” - jelentette az IWF. Az alapítvány a dokumentumokat eljuttatta az Egyesült Királyság Nemzeti Bűnügyi Hatóságának.
Az alapítvány, amely felkutatja és eltávolítja a netről a gyermekmolesztálással foglalkozó képeket, már tavaly arra hívta fel a figyelmet, hogy drámaian megnőtt azoknak a zsarolásos eseteknek a száma, amikor az áldozatokat úgy manipulálják, hogy képeket küldetnek velük magukról, amiket azután a bűnözők arra használnak, hogy közzétételükkel fenyegetőzve pénzt csikarjanak ki tőlük. A szervezet szerint a tavalyi rekordév volt, 275 ezer gyermekmolesztálással foglalkozó weblapot találtak, és ezek között az ,,A" kategóriás oldalak - amelyek a legsúlyosabb képeket, szexuális erőszakot, szadizmust, bestialitást ábrázoltak - az eddigi legmagasabb számban fordultak elő. Ezek száma az előző évi 51 ezerről 62 ezerre nőtt.
Egy felmérés szerint a három-négy évesek negyede rendelkezik mobiltelefonnal, a 13 év alattiak fele pedig ott van a közösségi médiában. A kormány a következő hetekben indítana párbeszédet arról, hogy ne lehessen 16 éven aluliaknak okostelefonjuk, és a minimum korhatárt a közösségi média regisztrációhoz 13-ról 16 évre emeljék. A teljesen mesterséges gyermekabuzáló képek előállítása most is tiltott Nagy-Britanniában, de most mind a konzervatívok, mind a munkáspártiak azon dolgoznak, hogy az ilyen képek generálása minden módon - valódi emberek képeit felhasználva is - tilos legyen. De az, hogyan történjék a szabályozás egyelőre nincs globális egyetértés.
A kérdés azonban onnan is megközelíthető, vajon meg lehet-e tiltani az MI-fejlesztő vállalatoknak, hogy programjaik képesek legyenek élethű deepfake képek generálására. Ez azután merült fel, tavaly decemberben a Stanford Egyetem kutatói zavarbaejtő felfedezést tettek: az egyik legnagyobb MI-képző, a Laion adatkészletéről kiderült, hogy gyermekek szexuális zaklatására vonatkozó anyagokat tartalmaz. Az ötmilliárdnyi kép között százával, ha nem ezrével voltak gyeremkabuzálást ábrázoló képek. Ezt a mennyiség senki sem tudná egy élet munkájával sem végignézni, ezért a kutatók automata programokkal vizsgálták az adatbázist. Válaszul a Laion a képek egyharmadának URL-címét - ezek az interneten megtalálható képek hozzáférési adatait - visszavonta. Azt nem tudni, a visszavont képek mekkora hányada volt bántalmazó tartalmú, de a baj már megtörtént. A Laion-5B-n, a szóban forgó adatkészleten betanított rendszereket világszerte használják, a képgenerátorok tudnak gyermek vagy felnőtt bántalmazó képeket készíteni, mert már láttak ilyeneket. A Laion azért tudott széles körben elterjedni, mert nyílt forráskódú, bárki hozzáférhet, felfedezheti, fejlesztheti. Ugyanez nem igaz Laion versenytársára, az OpenAI-ra, ami csak egy „ modellkártyát ” biztosít a Dall-E 3 képgenerátorhoz, amely szerint a képeik nyilvános, ellenőrzött forrásokból származnak.
