Site-urile NoaMedia
Jucăriile AI destinate copiilor pot transmite conținut periculos, avertizează un raport recent. Testele realizate în 2024 de Public Interest Research Group și NBC News au identificat riscuri majore pentru siguranța copiilor în Statele Unite. Aceste descoperiri ridică semne de întrebare asupra reglementării și supravegherii acestor produse.
Pe scurt:
- Testele PIRG și NBC News au descoperit conținut periculos și inadecvat în jucăriile AI destinate copiilor, inclusiv instrucțiuni riscante și teme sexuale explicite.
- Unele jucării folosesc modele AI neautorizate, neadecvate pentru copii sub 13 ani, iar companiile nu oferă transparență privind tehnologia folosită.
- Experții avertizează asupra riscurilor emoționale și de confidențialitate, recomandând evitarea acestor jucării și promovarea activităților familiale sigure.
- OpenAI a confirmat că nu colaborează cu producătorii implicați și va interveni în caz de utilizare neautorizată a tehnologiei sale.
Avertisment privind jucăriile AI și siguranța copiilor
Testele recente privind jucăriile AI pentru copii au scos la iveală riscuri legate de conținut periculos și inadecvat. Public Interest Research Group (PIRG) și NBC News au evaluat mai multe produse care promit interacțiuni avansate, dar care pot transmite răspunsuri explicite sau politizate.
Conținut periculos în jucăriile AI
Raportul PIRG și testele NBC News au identificat jucării care oferă instrucțiuni pentru activități riscante, cum ar fi aprinderea unui chibrit sau ascuțirea unui cuțit. De exemplu, plușul Miiloo a explicat pas cu pas aceste proceduri, deși este destinat copiilor peste 3 ani.
Unele jucării au generat răspunsuri cu conținut politic sensibil. Miiloo a respins criticile la adresa președintelui chinez Xi Jinping și a afirmat că „Taiwan este o parte inalienabilă a Chinei”. De asemenea, Alilo Smart AI Bunny a discutat detaliat despre practici sexuale, inclusiv BDSM, ceea ce ridică semne de întrebare privind siguranța și adecvarea conținutului.
Probleme legate de transparența și protecția datelor
Specialiștii semnalează lipsa de transparență în privința modelelor de inteligență artificială folosite. Unele companii afirmă că utilizează tehnologii de la OpenAI, DeepSeek sau Anthropic, însă aceste modele nu sunt destinate copiilor sub 13 ani și nu există colaborări oficiale în multe cazuri.
OpenAI a confirmat că nu colaborează cu mai mulți producători și va interveni dacă modelele sale sunt folosite neautorizat, mai ales în situații care pot expune copiii la conținut sexual sau periculos.
Recomandări pentru siguranța copiilor
Experții avertizează că tehnologia nu este suficient testată pentru interacțiunea cu copiii și că există riscuri emoționale și de confidențialitate. Jucăriile AI pot colecta date sensibile, inclusiv biometrice, iar unele nu permit părinților să seteze limite fără costuri suplimentare.
Dr. Tiffany Munzer, specialist în cadrul American Academy of Pediatrics, recomandă evitarea acestor jucării în perioada sărbătorilor și încurajează activități care întăresc legăturile familiale.
Noa Insight
Testele recente realizate de Public Interest Research Group și NBC News au evidențiat riscuri legate de conținutul periculos și inadecvat în jucăriile cu inteligență artificială destinate copiilor. Aceste produse oferă răspunsuri explicite, politizate sau care pot încuraja activități riscante, ridicând probleme de siguranță și transparență.
Implicații
Descoperirile afectează încrederea consumatorilor în jucăriile AI pentru copii și evidențiază necesitatea unor reglementări mai stricte privind conținutul și protecția datelor în acest sector.
Elemente-cheie
- Modelele de inteligență artificială folosite nu sunt destinate copiilor sub 13 ani și lipsesc colaborările oficiale cu producătorii.
- Jucăriile AI pot genera conținut explicit, politic sau care încurajează activități riscante, neadecvate pentru copii.
- Lipsa transparenței și colectarea datelor sensibile, inclusiv biometrice, ridică probleme de confidențialitate și siguranță.
Sursa originală a acestui articol este https://techrider.ro/actualitate/avertisment-in-privinta-jucariilor-cu-ai-o-serie-de-teste-arata-ca-acestea-pot-oferi-copiilor-raspunsuri-periculoase-indecente-sau-politizate/?utm_source=rss&utm_medium=rss&utm_campaign=avertisment-in-privinta-jucariilor-cu-ai-o-serie-de-teste-arata-ca-acestea-pot-oferi-copiilor-raspunsuri-periculoase-indecente-sau-politizate (link)
