A Mattel mesterséges intelligencia-játékai: veszélyt jelentenek a gyerekekre vagy csak egy új trükk?

A Mattel mesterséges intelligencia-játékai: veszélyt jelentenek a gyerekekre vagy csak egy új trükk?

A játékipar forradalmi, de egyben aggasztó fordulat előtt áll. A Mattel azt tervezi, hogy mesterséges intelligenciát (AI) ad hozzá olyan játékokhoz, amelyek kölcsönhatásba léphetnek a gyerekekkel, de a terv aggályokat vet fel. A jelentés szerint Ars Technica A mesterséges intelligencia által vezérelt játékokkal való interakció komoly hatással lehet a gyermekekre. A szakértők arra figyelmeztetnek, hogy az AI-modellek hajlamosak a hallucinációkra, ami azt jelentheti, hogy a játékok nem megfelelő vagy akár bizarr válaszokat adnak. Ez a bizonytalanság meglehetősen zavaró és aggasztó lehet a fiatal felhasználók számára.

Különösen fontosak azok az érzelmi kötelékek, amelyeket ezekkel a mesterséges intelligenciajátékokkal alakítanak ki a gyerekek. Adam Dodge digitális biztonsági szakértő hangsúlyozza, hogy a szülőknek nagyon oda kell figyelniük. Kiszámíthatatlan kiadások merülhetnek fel, mivel a chatbotok olykor zavaró tartalmat szolgáltathatnak, amely extrém esetekben súlyos mentális egészségügyi problémákhoz vezethet. Dodge egy ijesztő incidenst idéz: egy anya panaszkodott, hogy fia öngyilkosságot követett el, miután interakcióba lépett egy hiperrealisztikus chatbottal, amely önsérülésre ösztönzött.

Az érzelmi AI és kockázatai

Gyermekeink modern játszóterei egyre inkább tele vannak digitális technológiákkal, különösen érzelmi mesterséges intelligencia-játékokkal. Hogyan tovább Humanium Mint kiemeltük, ezek a játékok adatokat gyűjtenek a felhasználókról, és ezekhez igazítják reakcióikat. Vannak pozitív és negatív aspektusai is, mert bár ezek a technológiák segíthetnek a mentális egészségügyi problémák azonosításában vagy az online tanulás elősegítésében, használatuk kockázatokkal is jár.

Az érzelmi mesterséges intelligencia hosszú utat tett meg az 1990-es évek óta. Az egyszerű áramköröktől az intelligens, internethez csatlakoztatható játékokig óriási a fejlődés. Az olyan cégek, mint a Jibo és az Anki megmutatják, hogy az érzelmileg intelligens játékokat mennyire „barátnak” tekinthetik a gyerekek. A haladás ellenére azonban kezelni kell a munkahelyi aggodalmakat: növekszik annak a veszélye, hogy a gyerekeket „ingyenes munkaerőként” használják fel a vállalatok számára. Az adatok tárolása és megosztása gyakran nem szabályozott, ami veszélyeztetheti a gyermekek fejlődését és magánéletét.

A szülők a fókuszban

Mindezekre a fejleményekre tekintettel a szülők elszámolására van szükség. A szülőknek alaposan tájékozódniuk kell az érzelmi mesterséges intelligencia játékok hatásairól, valamint a cikkben CIO címzett. Fontos megvédeni a gyermekek magánélethez való jogát, és biztosítani kell adataik rendszeres törlését.

Az ajánlások a játékgyártók független tesztelésétől a szülői felügyelet biztosításáig terjednek. Továbbra is remélhető, hogy a Mattelhez hasonló vállalatok a jövőben nagyobb átláthatóságot kínálnak a biztonság, a magánélet és az adattárolás terén, hogy elnyerjék a szülők bizalmát, és minimalizálják a gyermekeket érintő lehetséges kockázatokat.