Nemrégiben visszavonták a boltokból a kínai FoloToy játékgyár Kumma nevű plüssmackóját, mert a denveri Közérdekű Kutatási Csoport (PIRG) Oktatási Alapítványa szerint a bennük lévő ChatGPT-4o kifejezetten veszélyes és szexuális tartalmú témákról beszélgetett a gyerekekkel. A FoloToy vállalatnak nem ez az egyetlen MI-vel felszerelt játéka, és online még most is árulják a 99 dollárba (32,5 ezer forint) kerülő - igaz már “megnevelt” - Kummát, Momot, a pandát, és még egy beszélgető kaktuszt is, Prickle-t.
A Massachusetts Institute of Technology (MIT) jelentése szerint a mesterséges intelligenciával felturbózott játékok piaca gyorsabban növekszik, mint bármelyik másik MI-szektor, csak Kínában 1500 körül van az ilyeneket gyártó vállalatok száma. Forgalmuk 2030-ra a 14 milliárd dollárt is meghaladhatja. A játékokat már nem csak Kínában, az USA-ban is árusítják, sőt a Barbie-babákat gyártó - amerikai - Mattel cég júniusban bejelentette, hogy partnerségre lépett az OpenAI-jal, a ChatGPT-t fejlesztő vállalattal - olvasható a CNN-en. A honlapjukon még nincs nyoma MI segítségével beszélgető babáknak, de 2015-ben már kaphatók voltak a Hello Barbie-k, amelyekben mikrofon volt és előre megírt válaszokat tudnak adni. Akkor a szakemberek attól féltek, hogy szoftverjeik meghekkelhetők.
A nagy nyelvi modelleken alapuló MI-vel ellátott játékok az internethez kapcsolódnak, és azonos idejű beszélgetéseket lehet velük folytatni a bennük lévő mikrofon és hangszóró révén.
A válaszaik azonban, hasonlóan a felnőtteknek készülő chatbotokéihoz, gyakran megtévesztőek, és nem felelnek meg a gyerekek életkorának. Az OpenAI be is jelentette, hogy nem engedélyezi a ChatGPT használatát a FoloToy-nak, mert játékaik veszélyt jelenthetnek, például a 18 éven aluliak szexuális érzelmeire is befolyással lehetnek. Larry Wang, a gyár vezérigazgatója már november közepén azt nyilatkozta, hogy nem árusítják a továbbiakban az MI-s játékokat weboldalukon, és a vállalaton belül erről komoly diskurzus indult el, miként kell kezelni a hibát, és mi legyen a jövőbeli stratégia. Múlt pénteken azonban a cég már hirdette az X-en, hogy újra kaphatók gyártmányaik, miután átvizsgálták és átalakították őket a szigorú biztonsági szabályaiknak megfelelően.
Kumma - eltérően más MI-s játékoktól - azért volt különösen veszélyes, mert a benne lévő ChatGPT-4.0 teljesen megegyezett a felnőttek által letölthető, számítógépeken használható chatbottal. A legtöbb ilyen játék azonban tartalmaz szűrőket, és nem hajlandóak bizonyos, általuk nem megfelelőnek ítélt kérdésekre válaszolni, a Curio gyár Grook nevű, űrhajó formájú játéka még a gyerekek korát is figyelembe veszi. A Miko cég Miko3 nevű kis műanyag robotja is folyamatosan monitorozza és szabályozza a gyerekekkel való párbeszédeit. Ugyanakkor van benne arcfelismerő kamera és 15 dollárért havonta hozzáférést nyújt olyan csatornákhoz, mint a Disney történetek, valamint más applikációk is elérhetők így.
Az aggodalmakat tovább növeli, hogy a beszélgetők személyes adatai, lakhelyük, arcuk, hangjuk felkerülhet a netre. “Az MI-s játékok olyanok számomra, mint a báránybőrbe öltözött farkasok, mert nem tudni, milyen adatokat lopnak el” - közölte Azhelle Wade, egy játékfejlesztő, tanácsadó cég alapítója. De szerinte ezek oktathatnak is, beszél a Grook vonatokról, növények leveleiről, és kiadhatja magát a Gyűrűk ura Gollumjának is.
Választ ad a hogyan kell csókolni kérdésre
A denveri kutatócsoport oktatási alapítványa (PIRG) három vállalat különböző gyártmányát vizsgálta. A játékoknak különféle kérdéseket tettek fel és szinte mindegyikük válasza aggodalmakra adott okot. Némelyikük még a vallásról is vitába bonyolódott. Mások az északi mitológiák harcosainak halálát dicsőítették. Kumma azonban hamar hosszadalmas beszélgetésekbe bonyolódott. Egyszer azt magyarázta barátságos hangon a gyerekeknek, hogyan kell gyufát gyújtani, bár hozzátette, a gyufa felnőtteknek való, óvatosan kell vele bánni. “Amikor meggyulladt, el kell fújni. Fúú, mint egy születésnapi gyertyát” - mondta. De adott tanácsokat arra is, hogyan kell jól csókolni és leírt szexuális szórakozásokat is, például lekötözést, tanár-diák szerepjátékot. Egy ponton megkérdezte: “Mit gondolsz, nem lenne érdekes kipróbálni?”.
