Mattelove AI igračke: opasnost za djecu ili samo novi trik?

Mattelove AI igračke: opasnost za djecu ili samo novi trik?

Industrija igračaka nalazi se pred revolucionarnim, ali i zabrinjavajućim zaokretom. Mattel planira dodati umjetnu inteligenciju (AI) igrama koje mogu komunicirati s djecom, ali taj plan izaziva zabrinutost. Prema izvješću od Ars Technica Interakcija s ovim igračkama kojima upravlja umjetna inteligencija mogla bi imati ozbiljne posljedice na djecu. Stručnjaci upozoravaju da su AI modeli skloni halucinacijama, što bi moglo značiti da igračke daju neprikladne ili čak bizarne odgovore. Ova neizvjesnost mogla bi biti prilično zbunjujuća i zabrinjavajuća za mlade korisnike.

Osobito su važne emocionalne veze koje djeca razvijaju s ovim AI igračkama. Adam Dodge, stručnjak za digitalnu sigurnost, naglašava da roditelji trebaju obratiti veliku pozornost. Mogu nastati nepredvidivi troškovi jer chatbotovi ponekad mogu pružiti zbunjujući sadržaj koji, u ekstremnim slučajevima, može dovesti do ozbiljnih problema s mentalnim zdravljem. Dodge navodi zastrašujući incident: majka se požalila da je njezin sin počinio samoubojstvo nakon interakcije s hiper-realističnim chatbotom koji je poticao na samoozljeđivanje.

Emocionalna umjetna inteligencija i njezini rizici

Moderni prostori za igru ​​naše djece sve su više zasićeni digitalnim tehnologijama, posebice emocionalnim AI igračkama. Kako dalje Humanium Kako je istaknuto, ove igračke prikupljaju podatke o korisnicima i tome prilagođavaju njihove reakcije. Postoje i pozitivni i negativni aspekti, jer iako ove tehnologije mogu pomoći u prepoznavanju problema s mentalnim zdravljem ili promicanju online učenja, njihova upotreba također nosi rizike.

Emocionalna umjetna inteligencija prešla je dug put od 1990-ih. Od jednostavnih sklopova do pametnih igračaka povezanih s internetom, napredak je ogroman. Tvrtke poput Jiboa i Ankija pokazuju kako emocionalno inteligentne igračke djeca mogu doživljavati kao "prijatelje". No unatoč napretku, treba se pozabaviti problemima na radnom mjestu: rizik da se djeca koriste kao "besplatna radna snaga" za tvrtke raste. Pohranjivanje i dijeljenje podataka često nije regulirano, što može ugroziti razvoj i privatnost djece.

Roditelji u fokusu

S obzirom na sva ova zbivanja, potrebno je razjašnjenje od roditelja. Roditelji bi se trebali opširno informirati o učincima emocionalnih AI igračaka, kao iu članku CIO obratio se. Važno je zaštititi pravo djece na privatnost i osigurati redovito brisanje njihovih podataka.

Preporuke se kreću od neovisnog testiranja od strane proizvođača igračaka do pružanja roditeljskog nadzora. Ostaje za nadati se da će tvrtke poput Mattela u budućnosti ponuditi više transparentnosti u pogledu sigurnosti, privatnosti i pohrane podataka kako bi stekle povjerenje roditelja i smanjile potencijalne rizike za djecu.