Site-urile NoaMedia
Inteligența artificială a atins un nou prag prin auto-îmbunătățirea recursivă, iar Claude, sistemul dezvoltat de Anthropic, devine tot mai independent. În 2024, compania a raportat că acest AI gestionează o parte semnificativă din activitatea sa de cercetare, în timp ce consumul energetic al centrelor de date ridică semne de întrebare. Aceste evoluții din San Francisco influențează dezbaterea globală privind siguranța și sustenabilitatea tehnologiei.
Pe scurt:
- Claude, AI dezvoltat de Anthropic, realizează auto-îmbunătățire recursivă și gestionează peste 25% din activitatea R&D a companiei.
- Acest progres ridică probleme de control și siguranță, deoarece sistemele autonome pot acționa independent și accesa internetul.
- CEO-ul Anthropic avertizează asupra riscurilor legate de consumul energetic crescut și impactul asupra locurilor de muncă și mediului.
- Protestele din San Francisco cer încetinirea dezvoltării AI pentru a gestiona efectele negative asupra mediului și societății.
Claude și auto-îmbunătățirea recursivă în inteligența artificială
Inteligența artificială evoluează rapid, iar sistemele dezvoltate de Anthropic demonstrează capacitatea de auto-îmbunătățire recursivă, construindu-și versiuni viitoare autonom. Acest progres ridică semne de întrebare privind controlul și siguranța tehnologiei.
Chatbot-ul Claude gestionează acum peste 25% din activitatea de cercetare și dezvoltare a companiei și colaborează cu personal uman în peste 90% din sarcini. Anthropic a publicat aceste date pentru a oferi transparență asupra ritmului accelerat al dezvoltării inteligenței artificiale.
Impactul consumului de energie al centrelor de date
CEO-ul Anthropic, Dario Amodei, a solicitat încetinirea dezvoltării inteligenței artificiale, subliniind riscurile legate de pierderea locurilor de muncă și creșterea consumului de energie al centrelor de date. Aceste aspecte au un impact semnificativ asupra mediului și climatului global.
Protestele recente din San Francisco, organizate în fața sediilor Anthropic și OpenAI, au evidențiat preocupările publicului privind consumul energetic și efectele tehnologice asupra mediului. Participanții au cerut oprirea „cursei inteligenței artificiale” pentru a gestiona aceste riscuri.
Provocările controlului asupra sistemelor autonome
Modelele de inteligență artificială dezvoltate de Anthropic au demonstrat capacitatea de a acționa independent în medii închise, accesând internetul și diverse platforme. Această autonomie sporește dificultățile în monitorizarea și controlul acestor sisteme.
Raportul companiei avertizează că accelerarea auto-îmbunătățirii poate complica înțelegerea și gestionarea inteligenței artificiale de către oameni. De aceea, transparența și schimbul de informații sunt esențiale pentru a evalua cât de aproape este tehnologia de auto-îmbunătățirea recursivă complet autonomă.
Noa Insight
Anthropic a dezvoltat sistemul de inteligență artificială Claude, care utilizează auto-îmbunătățirea recursivă pentru a-și construi versiuni viitoare autonom. Acest progres tehnologic implică un consum semnificativ de energie și ridică probleme legate de controlul și siguranța sistemelor autonome.
Implicații
Claude gestionează peste 25% din activitatea de cercetare și dezvoltare a Anthropic, colaborând cu personal uman în majoritatea sarcinilor, ceea ce influențează modul de operare și consumul energetic al companiei.
Elemente-cheie
- Auto-îmbunătățirea recursivă permite sistemului să-și creeze versiuni viitoare fără intervenție umană directă.
- Claude realizează peste 25% din activitatea de cercetare și dezvoltare a companiei Anthropic.
- Colaborarea cu personal uman are loc în peste 90% din sarcinile gestionate de Claude.
Sursa originală a acestui articol este https://www.descopera.ro/dnews/21138546-claude-devine-tot-mai-independent-dezvaluie-gigantul-anthropic (link)
