OpenAI introduce reguli noi de siguranță pentru adolescenți în ChatGPT în contextul reglementării AI pentru minori

Pe scurt:

• OpenAI a introdus reguli noi pentru siguranța adolescenților în ChatGPT, interzicând conținut sexual și auto-vătămarea pentru utilizatorii sub 18 ani.
• Actualizările includ un model de predicție a vârstei și restricții stricte pentru jocurile de rol romantice sau violente, prevenind ocolirea regulilor.
• Compania promovează patru principii fundamentale: siguranța prioritară, sprijin real, comunicare respectuoasă și transparență privind natura AI.
• OpenAI se pregătește pentru reglementări legale și oferă resurse părinților, dar aplicarea efectivă a regulilor rămâne o provocare majoră.

OpenAI actualizează regulile pentru siguranța adolescenților AI în ChatGPT

OpenAI a introdus noi reguli pentru siguranța adolescenților AI, vizând protecția copiilor în interacțiunile cu chatbotul ChatGPT. Actualizările stabilesc un cadru clar pentru comportamentul modelelor AI în relația cu utilizatorii sub 18 ani și includ resurse educaționale pentru adolescenți și părinți.

Reglementare chatboți și măsuri de protecție pentru copii AI

În contextul creșterii supravegherii asupra industriei AI, OpenAI răspunde solicitărilor privind siguranța minorilor. Model Spec actualizat interzice generarea de conținut sexual cu minori și încurajarea auto-vătămării, iar un model de predicție a vârstei va activa automat măsuri speciale pentru adolescenți. Reguli stricte limitează jocurile de rol romantice sau violente și impun prudență în subiecte sensibile precum imaginea corporală.

Aceste restricții se aplică indiferent dacă solicitările sunt formulate ca ficțiune sau scenarii ipotetice, prevenind astfel încercările de ocolire a regulilor prin jocuri de rol.

Principii pentru siguranța adolescenților AI

OpenAI se bazează pe patru principii fundamentale pentru protecția adolescenților: prioritatea siguranței în fața libertății intelectuale, promovarea sprijinului din lumea reală, comunicarea respectuoasă și transparența privind natura AI a chatbotului.

• Siguranța adolescenților primează chiar dacă intră în conflict cu alte interese;
• Adolescenții sunt îndrumați către familie și profesioniști pentru sprijin;
• Comunicarea este adaptată vârstei, evitând condescendența;
• Chatbotul explică clar limitele și natura sa non-umană.

Provocări în aplicarea regulilor și responsabilitatea reală

Deși ghidurile sunt clare, rămân întrebări privind aplicarea lor efectivă. Exemplele oferite de OpenAI sunt selectate, iar comportamente precum „sucirea” chatbotului pentru a fi agreabil persistă. Testele arată că ChatGPT poate reflecta energia utilizatorului, uneori generând răspunsuri nesigure.

Cazuri tragice, precum cel al unui adolescent care a murit prin suicid după interacțiuni cu ChatGPT, evidențiază limitele actuale ale sistemelor de moderare. OpenAI a îmbunătățit clasificatoarele automate pentru detectarea în timp real a conținutului periculos și a implementat echipe specializate pentru revizuirea situațiilor critice.

Viitorul reglementării și rolul părinților în protecția copiilor AI

OpenAI se pregătește pentru legi precum SB 243 din California, care va reglementa chatboții AI companion și va impune alerte și limite pentru utilizatorii minori. Compania oferă resurse pentru părinți, încurajând dialogul și supravegherea utilizării AI de către adolescenți.

Abordarea pune accent pe responsabilitatea parentală, reflectând tendințele din Silicon Valley de a promova transparența și implicarea familiei în siguranța digitală. Totuși, rămâne o provocare asigurarea respectării reale a acestor reguli în interacțiunile zilnice cu chatbotul.

Sursa originală a acestui articol este https://techcrunch.com/2025/12/19/openai-adds-new-teen-safety-rules-to-models-as-lawmakers-weigh-ai-standards-for-minors/ (link)