Site-urile NoaMedia
Utilizarea tokenurilor AI în OpenAI a crescut de un milion de ori în șase ani, generând costuri semnificative pentru companie. Sam Altman, CEO-ul OpenAI, a dezvăluit aceste date în contextul cererii tot mai mari din partea companiilor. Această evoluție influențează direct strategia de gestionare a costurilor inteligenței artificiale.
Pe scurt:
- Sam Altman a anunțat că cel mai mare consumator intern OpenAI utilizează aproximativ 100 miliarde de tokenuri AI lunar, o creștere uriașă.
- Consumul a crescut de un milion de ori în șase ani, generând costuri semnificative și provocări pentru infrastructura AI a companiei.
- Costurile sunt a doua cea mai frecventă problemă pentru clienți, afectând extinderea serviciilor și necesitatea optimizării cheltuielilor.
- Competiția cu firme precum Anthropic subliniază importanța reducerii costurilor pentru menținerea competitivității pe piața AI.
Creșterea utilizării tokenurilor AI și impactul asupra costurilor inteligenței artificiale
<pUtilizarea tokenurilor AI a crescut exponențial în cadrul OpenAI, iar costurile inteligenței artificiale devin o provocare majoră pentru companii. Sam Altman, CEO-ul OpenAI, a dezvăluit că cel mai mare consumator intern utilizează aproximativ 100 de miliarde de tokenuri lunar.
Acest nivel de consum marchează o creștere de un milion de ori față de acum șase ani, când cel mai mare utilizator folosea doar 100.000 de tokenuri pe lună. Tokenurile AI sunt unități de procesare esențiale pentru modelele de limbaj mare, precum ChatGPT, care descompun limbajul uman în fragmente pentru a genera și înțelege text.
Provocările costurilor și cererea AI în companii
Altman a subliniat că preocupările legate de costuri sunt acum a doua cea mai frecventă problemă semnalată de clienți, după simplificarea fluxurilor de lucru AI. Creșterea cererii pentru AI companii pune presiune pe infrastructura existentă, iar costurile pot limita extinderea serviciilor.
CEO-ul OpenAI a menționat că este esențial să se găsească soluții pentru a reduce costurile inteligenței artificiale, mai ales în contextul dezvoltării AI proactive care funcționează continuu. Această evoluție va influența modul în care companiile își planifică utilizarea și securitatea tehnologiilor AI.
Perspective asupra utilizării tokenurilor AI și costurilor în viitor
Creșterea cererii pentru AI și cultura „tokenmaxxing” au generat clasamente interne și monitorizarea consumului de tokenuri în rândul angajaților. Totuși, această expansiune rapidă evidențiază limitările infrastructurii și necesitatea unor strategii eficiente pentru gestionarea costurilor.
Companii concurente, precum Anthropic, au depășit OpenAI în cheltuielile corporative, ceea ce accentuează importanța optimizării costurilor pentru a menține competitivitatea pe piață. Dacă OpenAI va reuși să ofere o utilizare mai accesibilă a AI, ar putea câștiga o cotă semnificativă înainte ca ambele companii să devină publice.
Noa Insight
Sam Altman, CEO al OpenAI, a confirmat o creștere exponențială a utilizării tokenurilor AI în cadrul companiei, cu un consum lunar de aproximativ 100 de miliarde de tokenuri de către cel mai mare utilizator intern. Această situație evidențiază provocările legate de costurile ridicate ale tehnologiilor AI și necesitatea gestionării eficiente a acestora.
Implicații
Creșterea consumului de tokenuri generează presiuni asupra infrastructurii OpenAI și ridică probleme privind costurile, afectând modul în care companiile planifică utilizarea și extinderea serviciilor AI.
Elemente-cheie
- Tokenurile AI sunt unități de procesare folosite pentru a descompune limbajul uman în fragmente în modelele de limbaj mare.
- Cel mai mare consumator intern utilizează aproximativ 100 de miliarde de tokenuri lunar, față de 100.000 acum șase ani.
- Monitorizarea consumului de tokenuri și gestionarea costurilor sunt esențiale pentru menținerea competitivității pe piața AI.
Sursa originală a acestui articol este https://hotnews.ro/sam-altman-dezvaluie-cine-este-cel-mai-mare-consumator-de-tokenuri-de-la-openai-2263006 (link)
