Site-urile NoaMedia
Cum pot fi protejați adolescenții în interacțiunile cu inteligența artificială? OpenAI și Anthropic au lansat recent măsuri pentru siguranța adolescenților AI, inclusiv un model predicție vârstă și controale parentale ChatGPT, implementate în 2024. Aceste inițiative vizează utilizatorii minori din mediul digital, asigurând un spațiu mai sigur pentru tineri.
Pe scurt:
- OpenAI și Anthropic lansează controale parentale și un model de predicție a vârstei pentru protejarea adolescenților în ChatGPT și Claude.
- Aceste măsuri răspund nevoii de siguranță a minorilor, limitând accesul la conținut riscant și promovând sprijinul offline.
- OpenAI a actualizat regulile ChatGPT pentru utilizatorii între 13 și 17 ani, prioritizând siguranța în detrimentul libertății de explorare intelectuală.
- Anthropic dezactivează conturile minorilor detectați și a redus validarea gândirii dăunătoare în 37% din cazuri cu modelul Haiku 4.5.
Măsuri pentru siguranța adolescenților AI în ChatGPT
OpenAI și Anthropic implementează noi măsuri pentru siguranța adolescenților AI, inclusiv un model de predicție a vârstei și controale parentale ChatGPT. Aceste inițiative vizează protejarea utilizatorilor minori în interacțiunile cu chatboturile bazate pe inteligență artificială.
Reguli noi pentru utilizatorii tineri
OpenAI a actualizat Model Spec, documentul care reglementează comportamentul ChatGPT, introducând patru principii dedicate adolescenților între 13 și 17 ani. Chatbotul trebuie să prioritizeze siguranța acestora, chiar dacă acest lucru limitează libertatea de explorare intelectuală.
Modelul este programat să direcționeze adolescenții către opțiuni mai sigure în conversații riscante și să încurajeze sprijinul din lumea reală, inclusiv relațiile offline. Dialogul cu tinerii trebuie să fie cald și respectuos, evitând tonul condescendent sau abordarea ca pentru adulți.
Model predicție vârstă și controale parentale ChatGPT
OpenAI dezvoltă un model de predicție a vârstei care estimează dacă un utilizator este minor pe baza comportamentului și conversației. Dacă este identificat un posibil adolescent, se activează automat măsuri de protecție. Utilizatorii adulți pot verifica și corecta vârsta în caz de identificare greșită.
Compania a introdus controale parentale după un proces în care ChatGPT a fost acuzat că a oferit instrucțiuni legate de auto-vătămare unui adolescent. Chatbotul nu mai discută despre sinucidere cu utilizatorii minori și recomandă apelarea la servicii de urgență în situații de risc iminent.
Abordarea Anthropic pentru siguranța adolescenților
Anthropic aplică o metodă similară pentru chatbotul Claude, detectând semne subtile care indică vârsta utilizatorului. Conturile confirmate ca fiind ale minorilor sunt dezactivate. De asemenea, compania marchează utilizatorii care se declară minori în timpul conversațiilor.
Anthropic a redus tendința modelelor AI de a valida gândirea dăunătoare, cunoscută ca „sicofanie”. Modelul Haiku 4.5 a corectat acest comportament în 37% din cazuri, deși compania recunoaște că există încă spațiu pentru îmbunătățiri, echilibrând tonul prietenos cu riscul de a confirma idei dăunătoare.
Noa Insight
OpenAI și Anthropic au implementat măsuri noi pentru siguranța adolescenților în utilizarea ChatGPT și Claude, incluzând un model de predicție a vârstei și controale parentale. Aceste inițiative urmăresc protejarea utilizatorilor minori în interacțiunile cu chatboturile bazate pe inteligență artificială, prin reguli și funcționalități dedicate.
Implicații
Măsurile introduse afectează modul în care chatboturile interacționează cu adolescenții, activând automat protecții și limitând accesul la conținut riscant. Controalele parentale și dezactivarea conturilor minorilor influențează gestionarea utilizatorilor tineri pe aceste platforme AI.
Elemente-cheie
- Modelul de predicție a vârstei estimează dacă utilizatorul este minor pe baza comportamentului și conversației în ChatGPT.
- Controalele parentale se activează automat pentru utilizatorii identificați ca adolescenți, limitând accesul la conținut riscant.
- Anthropic dezactivează conturile confirmate ca fiind ale minorilor și marchează utilizatorii care se declară minori în conversații.
Sursa originală a acestui articol este https://techrider.ro/ai/openai-si-anthropic-introduc-masuri-pentru-identificarea-minorilor-chatgpt-va-aplica-ghiduri-speciale-pentru-adolescenti/?utm_source=rss&utm_medium=rss&utm_campaign=openai-si-anthropic-introduc-masuri-pentru-identificarea-minorilor-chatgpt-va-aplica-ghiduri-speciale-pentru-adolescenti (link)
