Site-urile NoaMedia
Cum influențează costurile inteligența artificială în companii? Utilizarea ChatGPT și a altor modele AI scade în 2024, pe fondul creșterii cheltuielilor, în special în organizațiile din Silicon Valley. Această ajustare marchează o schimbare importantă în strategia digitală a firmelor.
Pe scurt:
- Companiile reduc utilizarea ChatGPT și Claude din cauza costurilor ridicate ale inteligenței artificiale, care cresc proporțional cu consumul de tokeni.
- Costurile AI se dublează la fiecare două luni în unele firme, iar abonamentele pot ajunge la milioane de dolari anual pentru organizațiile mari.
- Se implementează sisteme de „model routing” și se adoptă modele open-source pentru a optimiza costurile și eficiența utilizării AI.
- Schimbarea reflectă o maturizare a utilizării AI, nu o renunțare, similară cu evoluția măsurării productivității programatorilor.
Companiile ajustează utilizarea ChatGPT din cauza costurilor inteligenței artificiale
Utilizarea ChatGPT și a altor modele AI a fost intens promovată în companii, însă costurile ridicate ale inteligenței artificiale determină acum o schimbare de strategie. Organizațiile caută metode mai eficiente pentru a reduce cheltuielile fără a renunța la beneficiile tehnologiei.
Impactul costurilor asupra utilizării ChatGPT și modelelor AI
Modelele generative precum ChatGPT, Claude sau Gemini funcționează pe baza unor unități de text numite „tokeni”. Costurile cresc proporțional cu numărul acestora, iar fenomenul „tokenmaxxing”, care presupunea consumul intens de resurse AI, începe să fie reconsiderat. În Silicon Valley, angajații erau încurajați să folosească intens aceste instrumente pentru automatizarea muncii.
Directorul OpenAI, Sam Altman, și Jensen Huang, CEO Nvidia, au subliniat anterior importanța consumului ridicat de resurse AI în companii. Meta a organizat chiar competiții interne pentru a stimula utilizarea intensivă a inteligenței artificiale.
Strategii pentru reducerea costurilor inteligenței artificiale
Pe măsură ce facturile pentru serviciile AI au crescut rapid, companiile au început să limiteze utilizarea nejustificată. Vincent Gusdorf de la Moody’s Ratings atrage atenția că multe activități generate cu AI nu aduc valoare reală, dar implică costuri semnificative.
Consultanții Bain & Company observă că în unele organizații costurile cu AI se dublează la fiecare două luni. Pentru firme cu mii de dezvoltatori, abonamentele lunare pot ajunge la milioane de dolari anual.
Modele open-source AI și utilizarea inteligentă a tehnologiei
Companiile implementează sisteme de „model routing” care selectează automat modelul AI potrivit pentru fiecare sarcină, evitând folosirea modelelor avansate pentru activități simple. Această abordare optimizează costurile și eficiența.
Totodată, modelele open-source AI, inclusiv cele dezvoltate de firme chineze precum Moonshot sau Zhipu, câștigă teren. Aceste alternative oferă performanțe comparabile cu produsele liderilor de piață, dar la costuri mai mici, presând furnizorii americani să-și ajusteze ofertele.
Experții consideră că această schimbare nu indică o renunțare la inteligența artificială, ci o maturizare a modului de utilizare. Raffi Krikorian de la Mozilla compară această etapă cu perioada în care productivitatea programatorilor era măsurată greșit prin numărul de linii de cod, o practică abandonată ulterior.
Noa Insight
Companiile care utilizează modele AI precum ChatGPT și Claude ajustează strategia de consum din cauza costurilor ridicate asociate cu procesarea „tokenilor”. Organizațiile implementează soluții pentru a reduce cheltuielile fără a renunța la beneficiile tehnologiei, folosind modele open-source și sisteme de selecție automată a modelelor AI.
Implicații
Limitarea utilizării intensive a modelelor AI afectează modul în care companiile gestionează costurile operaționale. Adoptarea sistemelor de „model routing” și a modelelor open-source influențează oferta furnizorilor americani și optimizează cheltuielile cu inteligența artificială.
Elemente-cheie
- „Tokenii” sunt unități de text pe baza cărora funcționează modelele AI, iar costurile cresc proporțional cu numărul acestora.
- Costurile cu AI se pot dubla la fiecare două luni, iar abonamentele lunare pentru firme mari pot ajunge la milioane de dolari anual.
- Sistemele de „model routing” selectează automat modelul AI potrivit pentru fiecare sarcină, optimizând costurile și eficiența.
Sursa originală a acestui articol este https://www.g4media.ro/companiile-incep-sa-reduca-utilizarea-chatgpt-si-claude-din-cauza-costurilor-ridicate.html (link)
