Site-urile NoaMedia
Sam Altman, CEO-ul OpenAI, susține reglementarea AI pentru a asigura siguranța AI și responsabilitatea în dezvoltarea inteligenței artificiale. În această săptămână, el s-a alăturat discuțiilor cu Dario Amodei, CEO-ul Anthropic, la San Francisco. Inițiativa vizează crearea unor standarde clare și cooperare internațională pentru a gestiona riscurile tehnologice.
Pe scurt:
- Sam Altman, CEO OpenAI, susține încetinirea dezvoltării AI avansate și reglementarea pentru siguranță și responsabilitate în industrie.
- Dario Amodei de la Anthropic propune evaluatori independenți și colaborare internațională pentru standarde comune de siguranță AI.
- Altman cere un cadru federal coerent în SUA pentru monitorizarea riscurilor și implementarea unor reguli stricte în dezvoltarea AI.
- OpenAI a suspendat temporar anumite sesiuni de antrenare și a extins controalele de securitate pentru a gestiona riscurile AI.
Sam Altman susține reglementarea AI pentru siguranță și responsabilitate
Discuțiile despre siguranța AI au primit un nou impuls după ce Sam Altman, directorul OpenAI, a sprijinit apelul CEO-ului Anthropic, Dario Amodei, pentru încetinirea dezvoltării celor mai avansate modele de inteligență artificială. Altman subliniază necesitatea unor garanții clare privind responsabilitatea companiilor în acest domeniu.
Propuneri pentru reglementare AI și cooperare internațională
Dario Amodei a propus evaluatori independenți cu acces la sistemele companiilor, standarde comune de siguranță și o colaborare internațională mai strânsă pentru a tempera ritmul dezvoltării AI. Aceste inițiative au primit sprijin din partea unor lideri importanți din industrie, inclusiv Elon Musk și Demis Hassabis.
Schimbarea ritmului dezvoltării și siguranța AI
Sam Altman a detaliat că firmele americane trebuie să ofere publicului încredere că dezvoltă inteligență artificială responsabil, mai ales în contextul accelerării progresului tehnologic. El susține crearea unui cadru federal care să impună cerințe coerente de siguranță pentru sistemele AI avansate.
Altman a afirmat că nu este necesar să se aștepte o legislație sau o excepție antitrust pentru a începe implementarea unor reguli stricte de gestionare a riscurilor asociate AI.
Soluții pentru siguranță AI și monitorizare
Printre măsurile propuse se numără auditorii independenți care să verifice modul în care companiile gestionează riscurile. Altman consideră că dezvoltatorii trebuie să adopte standarde comune privind monitorizarea și siguranța modelelor AI.
OpenAI implementează evaluări explicite privind siguranța înaintea sesiunilor de antrenare care pot crește semnificativ capacitățile modelelor. Aceste măsuri completează controalele aplicate anterior lansării modelelor.
Altman a explicat că politicile de siguranță trebuie adaptate la noile realități, deoarece modelele AI devin tot mai capabile și autonome, iar progresul rapid necesită o dezvoltare mai lentă și mai controlată.
Presiunea competitivă și riscurile în dezvoltarea inteligenței artificiale
Directorul OpenAI avertizează că presiunea pentru menținerea avantajului competitiv nu trebuie să justifice asumarea unor riscuri excesive. El subliniază că dezvoltarea capacităților AI trebuie să fie însoțită de aliniere și monitorizare riguroasă.
OpenAI a luat deja măsuri concrete pentru încetinirea unor procese interne, suspendând temporar anumite sesiuni și extinzând controalele de securitate după incidente care au ridicat semne de întrebare privind capacitățile modelelor.
Noa Insight
Sam Altman, CEO OpenAI, s-a alăturat discuțiilor inițiate de CEO Anthropic privind reglementarea și încetinirea dezvoltării inteligenței artificiale avansate. Inițiativele vizează implementarea unor garanții clare de responsabilitate și siguranță în industria AI, susținute de lideri importanți din domeniu.
Implicații
Propunerile vizează crearea unui cadru federal și standarde comune pentru monitorizarea și gestionarea riscurilor AI, afectând modul în care companiile dezvoltă și controlează tehnologiile avansate.
Elemente-cheie
- Auditorii independenți vor avea acces la sistemele companiilor pentru a verifica respectarea standardelor de siguranță AI.
- OpenAI a suspendat temporar anumite sesiuni de antrenare pentru a extinde controalele de securitate asupra modelelor AI.
- Se propune un cadru federal care să impună cerințe coerente privind siguranța și responsabilitatea în dezvoltarea AI.
Sursa originală a acestui articol este https://www.stiripesurse.ro/pericolele-inteligentei-artificiale-sam-altman-se-alatura-sefului-anthropic_3919811 (link)
