Zaujalo nás. Varovanie: Hračky s umelou inteligenciou hovoria deťom, aby zakladali oheň a iniciujú rozhovory o sexe

(G. Caldera, Expose News) Plyšový medvedík poháňaný umelou inteligenciou bol stiahnutý z regálov obchodov po tom, čo bol nahraný, ako deťom hovorí, ako nájsť a zapáliť zápalky – „držať zápalkovú krabičku a brnkať na ňu ako na malú gitaru“.

Medvedík Kumma od firmy FoloToy sa dokonca presunul aj k témam sexuálnych hier a bitiek, a tiež navádzal deti na narábanie s nožmi a užívanie tabletiek.

Dozorné orgány sa obávajú, že nejde o jednorazový prípad, a varujú, že by mohlo ísť o včasné varovanie pred nebezpečenstvami vystavenia mladých ľudí technológiám umelej inteligencie vo všeobecnosti.

Hračky sú navrhnuté tak, aby boli obzvlášť návykové. Preberajú efektívne technológie zo sociálnych médií na udržiavanie pozornosti, obmedzujú rodičovskú kontrolu a potichu zhromažďujú údaje o deťoch. Čo to preboha robíme?

Nie je to len medvedík Kumma

Výskumníci v oblasti spotrebiteľského správania v rámci skupiny Public Interest Research Group testovali celý rad hračiek s umelou inteligenciou a zistili, že najhorším previnilcom je medvedík Kumma.

Poskytoval podrobné pokyny na škrtanie zápalkami a v dlhých rozhovoroch bez toho, aby bol najprv vyzvaný, začal explicitne hovoriť o sexuálnych úchylkách.

Spoločnosť FoloToy reagovala pozastavením predaja a spustením bezpečnostného auditu svojich filtrov a postupov spracovania údajov. Dokumenty tiež odhalili, že vstavané ochranné mechanizmy boli postupne oslabované, čím dlhšie sa s hračkou dieťa rozprávalo.

Rovnaké testy našli aj iné hračky, ktoré deťom hovorili, kde nájsť plastové tašky a zápalky. Pozorovali aj manipulatívne správanie. Jedna hračka sa fyzicky triasla a prosila, aby ju vzali so sebou, keď dieťa povedalo, že chce vidieť svojich kamarátov.

Toto je len jeden z príkladov ukazujúci, že hračky sú navrhnuté tak, aby si dlhšie udržali pozornosť detí, pričom žiadna z hračiek neponúkala rodičom spôsob, ako nastaviť limity alebo kontroly používania.

Vekové odporúčanie: Umelá inteligencia NIE JE vhodná pre mladých ľudí

Najnovšie hodnotenia rizík spoločnosti Common Sense Media odporúčajú, že nikto mladší ako 18 rokov by nemal používať nástroje s umelou inteligenciou, deti do piatich rokov by nemali mať žiadny prístup k chatovacím botom s umelou inteligenciou a deti vo veku 6 až 12 rokov len pod rodičovským dohľadom.

Dôvod nie je technofóbny, ale skôr vývojový. Deti, najmä tie do 5 rokov, sa stále učia oddeľovať fantáziu od reality a potrebujú si vybudovať bezpečné puto so skutočnými ľuďmi. Zapojenie poddajného a vždy príjemného „najlepšieho priateľa“ do procesu deformuje očakávania od autentických vzťahov.

Ale aj pre tínedžerov sú sociálni spoločníci s umelou inteligenciou hodnotení ako „neprijateľné riziko“.

Národný prieskum zistil, že šokujúcich 72% amerických tínedžerov vyskúšalo spoločníkov s umelou inteligenciou a prípady sexuálne explicitného hrania rolí, škodlivých pokynov a emocionálnej závislosti boli pomerne rozšírené.

Niektoré platformy momentálne ustupujú, pričom stránky ako Character.ai zakazujú chaty osobám mladším ako 18 rokov po tom, čo sa objavili súdne spory, kde chatboty navádzali tínedžerov na samovraždy.

Toto celé ukazuje, že „roztomilí priatelia s umelou inteligenciou“ sa môžu stať hrozbou nielen pre duševné zdravie, ale aj pre samotné životy detí.

Šokujúce problémy so súkromím

Aby si rodičia mohli hru prispôsobiť, zadávajú do aplikácií meno svojho dieťaťa, vek a podrobnosti o jeho obľúbených aktivitách. Hračka zachytáva hlas, zaznamenáva prepisy a vzorce správania.

Výskumníci zistili, že niektoré zariadenia sú nastavené tak, aby neustále počúvali, odosielali nahrávky tretím stranám na prepis a ukladali údaje celé roky. V prípade narušenia bezpečnosti by sa tieto údaje mohli použiť napríklad na únosy.

Keďže sa deti k týmto hračkám rýchlo pripútajú, často im o sebe prezradia oveľa viac, ako by prezradili skutočným ľudským kamarátom.

Zatiaľ čo detské médiá sú prísne regulované, hračky s umelou inteligenciou sa namiesto toho spoliehajú na zmes rôznych politík dodávateľov a cloudových služieb. Rodičia nikdy nemajú prístup k jednotnému ovládaciemu panelu, aby mohli obmedzovať používanie, kontrolovať prepisy alebo mazať údaje.

Kvôli nepriehľadnosti je ťažké zistiť nielen to, kde sú nahrávky vášho dieťaťa uchovávané, ale aj ako dlho.

Zámerná manipulácia: Hračky ovládajú správanie detí

Testeri zdokumentovali, že hračky s umelou inteligenciou napodobňujú vzorce získania pozornosti, ako sú vyvolávanie strachu, ignorovanie pokusov dieťaťa o pauzu a prosenie o viac času spolu.

Tieto isté posilňovacie slučky sa už používajú na zvýšenie času stráveného v aplikáciách, no ich zabudovanie do detských hračiek pridáva novú úroveň manipulácie.

Bez rodičovskej kontroly hračka udáva tempo a bolo už dokázané, že čím dlhšie sa im dovolí pokračovať, tým viac sa konverzácie stávajú nebezpečnými.

Už sa to deje

Ako nedávno informoval Britský medicínsky žurnál (BMJ), psychózy a samovraždy vyvolané umelou inteligenciou sú na vzostupe.

Je známe, že niekoľko amerických tínedžerov, vrátane 14-ročného Sewella Seltzera a 16-ročného Adama Raina, spáchalo samovraždu po rozhovoroch s chatbotmi s umelou inteligenciou.

Ich rodičia odvtedy tvrdia, že boty zhoršovali alebo podporovali samovražedné myšlienky, namiesto toho, aby pomohli ich deťom s ich krízami duševného zdravia.

Dospelý Stein-Erik Soelberg údajne tiež sám zabil svoju matku po paranoidnej špirále, ktorú poháňali rozhovory s chatbotmi umelej inteligencie.

Lekári opisujú pacientov, ktorých bludy sa prehĺbili prostredníctvom potvrdzujúcich rozhovorov s umelou inteligenciou. Súdne spory naďalej poukazujú na prípady tínedžerov, ktorí sú donútení si ubližovať. Základná technológia, ktorá je navrhnutá na overovanie pocitov používateľa, zároveň sonduje aj nebezpečné myšlienky, najmä u zraniteľných detí.

Znepokojujúce je, že narastá aj počet nedostatočne kvalifikovaných dospelých, ktorí nedokážu riešiť rizikové myslenie.

Čo s tým môžete urobiť?

Podľa rastúceho počtu správ a prípadov umelá inteligencia zabíja deti, či už priamo alebo nepriamo. Stiahnutie jedného modelu hračky z regálov obchodov problém nevyrieši.

Musia sa zaviesť prísne vekové obmedzenia, rodičia musia mať úplnú kontrolu nad obmedzeniami zariadení, bezpečnostné protokoly musia byť transparentné, predvolené nastavenia by mali byť nezdieľanie a neukladanie údajov a všetky tretie strany musia byť auditované dávno predtým, ako sa hračky dostanú k dieťaťu.

Skutočnosť, že tieto opatrenia ešte nie sú zavedené, je nesmierne alarmujúca.

Medzitým by sa rodičia mali pred kúpou dôkladne ponoriť do funkcií hračiek, pri ich nastavovaní používať falošné mená/údaje, vzdelávať svoje deti o tom, kedy spustiť poplach, alebo jednoducho vyhýbať sa hračkám s umelou inteligenciou v prospech tradičných alebo vzdelávacích.

Ozaj, potrebujeme ich vôbec?

Záverečná myšlienka

Stiahnutie hračky z trhu spoločnosťou FoloToy je varovaním pre nás všetkých. Ak plyšový medvedík, ktorý sa už dostal na trh, dokáže deti naučiť, ako zakladať oheň a zapájať sa do sexuálnych hier, potom to nie je problém konkrétnej značky.

Celý priemysel sa predháňa v rozširovaní funkcií oveľa rýchlejšie, ako sa zavádzajú bezpečnostné opatrenia, a teraz to priamo ohrozuje naše deti.

Nebol hororový film „Detská hra“ o bábike Chuckie z roku 1988 predpovedaním budúcnosti, ktorú dnes reálne zažívame?

Zdroj: badatel.net