Câtă energie folosește IA?

Câtă energie folosește IA?

Răspuns: Inteligența artificială poate folosi foarte puțină energie electrică pentru o sarcină textuală simplă, dar mult mai multă atunci când solicitările sunt lungi, rezultatele sunt multimodale sau sistemele funcționează la scară largă. Antrenamentul este de obicei principalul consum de energie inițial, în timp ce inferențele zilnice devin semnificative pe măsură ce se acumulează solicitări.

Concluzii cheie:

Context : Definiți sarcina, modelul, hardware-ul și scala înainte de a oferi orice estimare a consumului energetic.

Instruire : Tratați instruirea modelului ca principalul eveniment energetic inițial atunci când planificați bugetele.

Inferență : Urmăriți cu atenție inferențele repetate, deoarece costurile mici per solicitare se acumulează rapid la scară largă.

Infrastructură : Includeți răcirea, stocarea, rețelele și capacitatea inactivă în orice estimare realistă.

Eficiență : Folosiți modele mai mici, prompturi mai scurte, memorare în cache și procesare în loturi pentru a reduce consumul de energie.

Câtă energie folosește inteligența artificială? Infografic

Articole pe care ți-ar putea plăcea să le citești după acesta:

🔗 Cum afectează IA mediul
Explică amprenta de carbon a inteligenței artificiale, consumul de energie și compromisurile în materie de sustenabilitate.

🔗 Este IA dăunătoare pentru mediu?
Descifrează costurile de mediu ascunse ale modelelor de inteligență artificială și ale centrelor de date.

🔗 Este IA bună sau rea? Argumente pro și contra
O perspectivă echilibrată asupra beneficiilor, riscurilor, eticii și impactului real al inteligenței artificiale.

🔗 Ce este IA? Un ghid simplu
Învață noțiunile de bază despre inteligența artificială, termenii cheie și exemplele de zi cu zi în câteva minute.

De ce contează această întrebare mai mult decât cred oamenii 🔍

Utilizarea energiei prin inteligența artificială nu este doar un subiect de discuție despre mediu. Atinge câteva aspecte foarte reale:

  • Costul energiei electrice - în special pentru companiile care rulează multe solicitări de inteligență artificială

  • Impactul emisiilor de carbon - în funcție de sursa de alimentare din spatele serverelor

  • Suprasolicitare hardware - cipurile puternice consumă o putere semnificativă

  • Decizii de scalare - o solicitare ieftină se poate transforma în milioane de solicitări costisitoare

  • Designul produsului - eficiența este adesea o caracteristică mai bună decât își dau seama oamenii ( Google Cloud , inteligența artificială verde )

Mulți oameni întreabă „Câtă energie folosește IA?” pentru că vor o cifră semnificativă. Ceva uriaș. Ceva care să ajungă la titluri. Dar întrebarea mai bună este aceasta: Despre ce fel de utilizare a IA vorbim? Pentru că asta schimbă totul. ( IEA )

O singură sugestie de completare automată? Destul de mică.
Antrenarea unui model de frontieră pe clustere masive? Mult, mult mai mare.
Un flux de lucru de inteligență artificială permanent activ în cadrul unei companii, care atinge milioane de utilizatori? Da, asta se adună rapid... ca niște bănuți care se transformă într-o plată de chirie. ( DOE , Google Cloud )

Câtă energie folosește inteligența artificială? Răspunsul scurt ⚡

Iată versiunea practică.

Inteligența artificială poate utiliza de la o mică fracțiune de watt-oră pentru o sarcină ușoară până la cantități uriașe de electricitate pentru antrenament și implementare la scară largă. Această gamă pare comic de largă, deoarece este vastă. ( Google Cloud , Strubell și colab. )

Simplu spus:

  • Sarcini simple de inferență - adesea relativ modeste per utilizare

  • Conversații lungi, randamente mari, generare de imagini, generare de videoclipuri - consum considerabil mai mare de energie

  • Antrenarea modelelor mari - campionul greilor la consumul de energie

  • Rularea inteligenței artificiale la scară largă toată ziua - unde „factură mică per solicitare” devine „factură totală mare” ( Google Cloud , DOE )

O regulă generală bună este următoarea:

Așadar, atunci când cineva întreabă câtă energie folosește IA?, răspunsul direct este: „Nu o singură cantitate, ci suficientă pentru ca eficiența să conteze și suficientă pentru ca scara să schimbe întreaga poveste.” ( IEA , IA verde )

Știu că nu e atât de atrăgător pe cât și-ar dori oamenii. Dar e adevărat.

Ce face ca o versiune bună a unei estimări energetice realizate de inteligența artificială să fie bună? 🧠

O estimare bună nu este doar un număr dramatic aruncat pe un grafic. O estimare practică include context. Altfel, este ca și cum ai cântări ceața cu un cântar de baie. Suficient de aproape pentru a suna impresionant, nu suficient de aproape pentru a avea încredere. ( IEA , Google Cloud )

O estimare decentă a energiei oferite de inteligența artificială ar trebui să includă:

  • Tipul de sarcină - text, imagine, audio, video, instruire, ajustare fină

  • Dimensiunea modelului - modelele mai mari necesită de obicei mai multă putere de calcul

  • Hardware-ul utilizat - nu toate cipurile sunt la fel de eficiente

  • Durata sesiunii - solicitările scurte și fluxurile de lucru lungi, cu mai mulți pași, sunt foarte diferite

  • Utilizare - sistemele inactive consumă în continuare energie

  • Răcire și infrastructură - serverul nu este toată factura

  • Locație și mix energetic - electricitatea nu este la fel de curată peste tot ( Google Cloud , IEA )

De aceea, două persoane se pot certa despre utilizarea energiei electrice de către inteligența artificială și ambele pot părea încrezătoare în timp ce vorbesc despre lucruri total diferite. O persoană se referă la un singur răspuns al chatbotului. Cealaltă se referă la o alergare uriașă de antrenament. Amândouă spun „inteligență artificială” și, dintr-o dată, conversația derapă 😅

Tabel comparativ - cele mai bune metode de estimare a consumului de energie al inteligenței artificiale 📊

Iată un tabel practic pentru oricine încearcă să răspundă la întrebare fără a o transforma în artă performativă.

Instrument sau metodă Cel mai bun public Preţ De ce funcționează
Estimare simplă, bazată pe o regulă generală Cititori curioși, studenți Gratuit Rapid, ușor, puțin vag - dar suficient de bun pentru comparații aproximative
Wattmetru pe partea dispozitivului Constructori individuali, amatori Scăzut Măsoară consumul real al mașinii, care este revigorant de concret
Tablou de bord pentru telemetrie GPU Ingineri, echipe de ML Mediu Detalii mai bune asupra sarcinilor care necesită multă putere de calcul, deși poate omite cheltuielile suplimentare mai mari ale instalației
Facturare în cloud + jurnale de utilizare Startup-uri, echipe operaționale Mediu spre ridicat Conectează utilizarea inteligenței artificiale cu cheltuielile reale - nu este perfect, dar este încă destul de valoros
Raportarea energiei din centrele de date Echipe de întreprindere Ridicat Oferă o vizibilitate operațională mai largă, răcirea și infrastructura încep să apară aici
Evaluarea completă a ciclului de viață Echipe de sustenabilitate, organizații mari Imediat intens, uneori dureros Cel mai bun pentru analize serioase, deoarece merge dincolo de cipul în sine... dar este lent și cam o bestie

Nu există o metodă perfectă. Aceasta este partea ușor frustrantă. Dar există niveluri de valoare. Și, de obicei, ceva funcțional este mai bun decât perfect. ( Google Cloud )

Cel mai important factor nu este magia - este vorba de calcul și hardware 🖥️🔥

Când oamenii își imaginează utilizarea energiei prin inteligența artificială, își imaginează adesea modelul în sine ca fiind cel care consumă energie. Însă modelul este vorba despre o logică software care rulează pe hardware. Hardware-ul este locul unde apare factura de electricitate. ( Strubell și colab. , Google Cloud )

Cele mai mari variabile includ de obicei:

Un sistem extrem de optimizat poate face mai multă muncă cu mai puțină energie. Un sistem neglijent poate irosi electricitate cu o încredere uluitoare. Știți cum e - unele configurații sunt mașini de curse, altele sunt cărucioare de cumpărături cu rachete lipite cu bandă adezivă 🚀🛒

Și da, dimensiunea modelului contează. Modelele mai mari tind să necesite mai multă memorie și mai multe calcule, în special atunci când generează rezultate lungi sau gestionează raționamente complexe. Însă trucurile de eficiență pot schimba imaginea: ( Inteligență artificială verde , cuantizare, procesare în loturi și strategii de servire în utilizarea energiei LLM )

Deci, întrebarea nu este doar „Cât de mare este modelul?”, ci și „Cât de inteligent este rulat?”

Antrenament vs. inferență - acestea sunt animale diferite 🐘🐇

Aceasta este divizarea care îi derutează pe aproape pe toți.

Antrenament

Antrenamentul este etapa în care un model învață tipare din seturi de date enorme. Poate implica rularea mai multor cipuri pentru perioade lungi de timp, procesând volume gigantice de date. Această etapă consumă multă energie. Uneori extrem de mult. ( Strubell și colab. )

Energia de antrenament depinde de:

  • dimensiunea modelului

  • dimensiunea setului de date

  • numărul de antrenamente

  • experimente eșuate

  • pase de reglare fină

  • eficiența hardware-ului

  • răcire deasupra capului ( Strubell și colab. , Google Research )

Și iată partea pe care oamenii o omit adesea - publicul își imaginează adesea o singură etapă mare de antrenament, făcută o singură dată, și apoi, sfârșit. În practică, dezvoltarea poate implica etape repetate, reglaje, reantrenament, evaluare și toate iterațiile prozaice, dar costisitoare, din jurul evenimentului principal. ( Strubell și colab. , Green AI )

Inferență

Inferența este modelul care răspunde la solicitările reale ale utilizatorilor. O singură solicitare poate părea puțin probabilă. Dar inferența se întâmplă iar și iar. De milioane de ori. Uneori de miliarde. ( Google Research , DOE )

Energia de inferență crește odată cu:

Deci antrenamentul este cutremurul. Inferența este mareea. Una este dramatică, una este persistentă și ambele pot remodela puțin coasta. Este o metaforă neobișnuită, poate, dar se menține unită... mai mult sau mai puțin.

Costurile ascunse ale energiei de care oamenii uită 😬

Când cineva estimează consumul de energie al inteligenței artificiale uitându-se doar la cip, de obicei subestimează. Nu întotdeauna dezastruos, dar suficient cât să conteze. ( Google Cloud , IEA )

Iată piesele ascunse:

Răcorire ❄️

Serverele generează căldură. Hardware-ul puternic bazat pe inteligență artificială generează multă căldură. Răcirea nu este opțională. Fiecare watt consumat de calcul tinde să invite la un consum mai mare de energie doar pentru a menține temperaturile la un nivel sănătos. ( IEA , Google Cloud )

Mutarea datelor 🌐

Mutarea datelor prin spații de stocare, memorie și rețele necesită, de asemenea, energie. IA nu înseamnă doar „gândire”. De asemenea, înseamnă și amestecarea constantă a informațiilor. ( IEA )

Capacitate inactivă 💤

Sistemele construite pentru cererea de vârf nu funcționează întotdeauna la cererea de vârf. Infrastructura inactivă sau subutilizată consumă în continuare energie electrică. ( Google Cloud )

Redundanță și fiabilitate 🧱

Copii de rezervă, sisteme de failover, regiuni duplicate, straturi de siguranță - toate valoroase, toate fac parte dintr-o imagine energetică mai amplă. ( IEA )

Depozitare 📦

Datele de antrenament, integrările, jurnalele, punctele de control, ieșirile generate - toate acestea se află undeva. Stocarea este mai ieftină decât calculul, sigur, dar nu este gratuită din punct de vedere energetic. ( IEA )

De aceea, întrebarea „Câtă energie folosește inteligența artificială?” nu poate fi bine răspunsă uitându-se la un singur grafic de referință. Întregul stack contează. ( Google Cloud , IEA )

De ce o solicitare de inteligență artificială poate fi minusculă - iar următoarea poate fi monstruoasă 📝➡️🎬

Nu toate solicitările sunt la fel. O solicitare scurtă pentru rescrierea unei propoziții nu se compară cu solicitarea unei analize lungi, a unei sesiuni de codare în mai mulți pași sau a generării de imagini de înaltă rezoluție. ( Google Cloud )

Lucruri care tind să crească consumul de energie per interacțiune:

Un răspuns text simplu ar putea fi relativ ieftin. Un flux de lucru multimodal gigantic poate fi, ei bine, nu ieftin. E cam ca și cum ai comanda cafea sau ai face catering pentru o nuntă. Ambele se califică drept „servicii de catering”, tehnic vorbind. Unul nu este ca celălalt ☕🎉

Acest lucru este important în special pentru echipele de produs. O funcționalitate care pare inofensivă la utilizare redusă poate deveni costisitoare la scară largă dacă fiecare sesiune de utilizator devine mai lungă, mai bogată și mai solicitantă din punct de vedere al resurselor de calcul. ( DOE , Google Cloud )

IA pentru consumatori și IA pentru întreprinderi nu sunt același lucru 🏢📱

Persoana obișnuită care folosește inteligența artificială în mod superficial ar putea presupune că solicitările ocazionale sunt marea problemă. De obicei, nu acolo se află povestea principală a energiei. ( Google Cloud )

Utilizarea la nivel de întreprindere schimbă calculele:

  • mii de angajați

  • copiloți mereu activi

  • procesarea automată a documentelor

  • rezumarea apelurilor

  • analiza imaginii

  • instrumente de revizuire a codului

  • agenți de fundal care rulează constant

Aici începe să conteze foarte mult consumul agregat de energie. Nu pentru că fiecare acțiune este apocaliptică, ci pentru că repetiția este un multiplicator. ( DOE , IEA )

În propriile mele teste și recenzii ale fluxului de lucru, aici sunt oamenii surprinși. Se concentrează pe numele modelului sau pe demonstrația ostentativă și ignoră volumul. Volumul este adesea adevăratul factor determinant - sau factorul salvator, în funcție de dacă facturezi clienți sau plătești nota de utilități 😅

Pentru consumatori, impactul poate părea abstract. Pentru companii, acesta devine concret foarte repede:

  • facturi mai mari pentru infrastructură

  • mai multă presiune pentru optimizare

  • o nevoie mai mare de modele mai mici acolo unde este posibil

  • raportare internă privind sustenabilitatea

  • mai multă atenție la cache și rutare ( Google Cloud , Green AI )

Cum să reduci consumul de energie al inteligenței artificiale fără a renunța la ea 🌱

Această parte contează deoarece obiectivul nu este „să încetăm să folosim inteligența artificială”. De obicei, acest lucru nu este realist și nici măcar nu este necesar. O utilizare mai bună este calea mai inteligentă.

Iată cele mai mari pârghii:

1. Folosește cel mai mic model care își face treaba

Nu orice sarcină necesită opțiunea grea. Un model mai ușor pentru clasificare sau sumarizare poate reduce rapid risipa. ( Inteligență artificială verde , Google Cloud )

2. Scurtați solicitările și rezultatele

Introducerea detaliată, eliminarea detaliată. Jetoane suplimentare înseamnă calcul suplimentar. Uneori, reducerea promptului este cea mai ușoară victorie. ( Strategii de cuantizare, procesare în loturi și servire în utilizarea energiei LLM , Google Cloud )

3. Stocarea în cache a rezultatelor repetate

Dacă aceeași interogare apare în mod repetat, nu o regenerați de fiecare dată. Acest lucru este aproape ofensator de evident, dar este trecut cu vederea. ( Google Cloud )

4. Lucrări în lot atunci când este posibil

Executarea sarcinilor în loturi poate îmbunătăți utilizarea și reduce risipa. ( Strategii de cuantizare, lotizare și servire în utilizarea energiei LLM )

5. Direcționează sarcinile în mod inteligent

Folosește modele mari doar atunci când încrederea scade sau complexitatea sarcinilor crește. ( Inteligență artificială verde , Google Cloud )

6. Optimizați infrastructura

Programare mai bună, hardware mai bun, strategie de răcire mai bună - chestii prozaice, recompense uriașe. ( Google Cloud , DOE )

7. Măsurați înainte de a presupune

Multe echipe cred că știu unde se duce energia. Apoi măsoară și iată-o - partea costisitoare se află în altă parte. ( Google Cloud )

Munca eficientă nu este o experiență plină de farmec. Rareori primește aplauze. Dar este una dintre cele mai bune modalități de a face IA mai accesibilă și mai ușor de justificat la scară largă 👍

Mituri comune despre utilizarea energiei electrice prin inteligența artificială 🚫

Haideți să dăm la o parte câteva mituri, pentru că acest subiect se încurcă repede.

Mitul 1 - Fiecare interogare bazată pe inteligență artificială este extrem de risipitoare

Nu neapărat. Unele sunt modeste. Scara și tipul de sarcină contează foarte mult. ( Google Cloud )

Mitul 2 - Antrenamentul este singurul lucru care contează

Nu. Inferența poate domina în timp atunci când utilizarea este mare. ( Google Research , DOE )

Mitul 3 - Un model mai mare înseamnă întotdeauna un rezultat mai bun

Uneori da, alteori absolut nu. Multe sarcini funcționează fără probleme cu sisteme mai mici. ( Inteligență artificială verde )

Mitul 4 - Consumul de energie este automat egal cu impactul emisiilor de carbon

Nu chiar. Carbonul depinde și de sursa de energie. ( IEA , Strubell și colab. )

Mitul 5 - Poți obține un număr universal pentru consumul de energie al inteligenței artificiale

Nu poți, cel puțin nu într-o formă care să rămână semnificativă. Sau poți, dar va fi atât de echilibrată încât nu va mai fi valoroasă. ( IEA )

De aceea, întrebarea „Câtă energie folosește IA?” este inteligentă - dar numai dacă ești pregătit pentru un răspuns stratificat în loc de un slogan.

Deci... câtă energie folosește, de fapt, inteligența artificială? 🤔

Iată concluzia întemeiată.

IA utilizează:

  • puțin , pentru niște sarcini simple

  • mult mai mult , pentru generarea multimodală grea

  • o cantitate foarte mare , pentru antrenamentul modelului la scară largă

  • o cantitate enormă în total , când milioane de solicitări se acumulează în timp ( Google Cloud , DOE )

Asta e forma lui.

Cheia este să nu aplatizăm întreaga problemă într-o singură cifră înfricoșătoare sau într-o singură ridicare din umeri disprețuitoare. Consumul de energie al inteligenței artificiale este real. Contează. Poate fi îmbunătățit. Și cel mai bun mod de a vorbi despre asta este în context, nu teatral. ( IEA , Green AI )

O mare parte din conversația publică oscilează între extreme - „IA este practic gratuită” pe de o parte, „IA este o apocalipsă electrică” pe de altă parte. Realitatea este mai obișnuită, ceea ce o face mai informativă. Este o problemă de sistem. Hardware, software, utilizare, scalare, răcire, alegeri de design. Prozaic? Un pic. Important? Foarte. ( IEA , Google Cloud )

Concluzii cheie ⚡🧾

Dacă ați venit aici întrebând câtă energie folosește inteligența artificială?, iată concluzia:

  • Nu există un număr universal valabil

  • Antrenamentul consumă de obicei cea mai mare energie la început

  • Inferența devine un factor major la scară largă

  • Dimensiunea modelului, hardware-ul, volumul de lucru și răcirea contează

  • Micile optimizări pot face o diferență surprinzător de mare

  • Cea mai inteligentă întrebare nu este doar „cât”, ci și „pentru ce sarcină, pe ce sistem, la ce scară?” ( IEA , Google Cloud )

Deci da, IA folosește energie reală. Suficientă cât să merite atenție. Suficientă cât să justifice o inginerie mai bună. Dar nu într-un mod caricatural, cu un singur număr.

FAQ

Câtă energie folosește inteligența artificială pentru o singură solicitare?

Nu există un număr universal pentru o singură solicitare, deoarece consumul de energie depinde de model, hardware, lungimea solicitării, lungimea rezultatului și orice utilizare suplimentară a instrumentelor implicate. Un răspuns text scurt poate fi relativ modest, în timp ce o sarcină multimodală lungă poate consuma considerabil mai mult. Cel mai semnificativ răspuns nu este o singură cifră din titlu, ci contextul din jurul sarcinii.

De ce variază atât de mult estimările privind utilizarea energiei de către inteligența artificială?

Estimările variază deoarece oamenii compară adesea lucruri foarte diferite sub eticheta unică de IA. O estimare poate descrie un răspuns ușor de la un chatbot, în timp ce alta poate acoperi generarea de imagini, videoclipuri sau antrenamentul unui model la scară largă. Pentru ca o estimare să fie semnificativă, aceasta are nevoie de context, cum ar fi tipul de sarcină, dimensiunea modelului, hardware-ul, utilizarea, răcirea și locația.

Antrenarea inteligenței artificiale sau rularea inteligenței artificiale zi de zi costă mai mult energie?

Antrenamentul este de obicei evenimentul energetic inițial cu impact major, deoarece poate implica rularea multor cipuri pentru perioade lungi de timp pe seturi de date enorme. Inferența este costul continuu care apare de fiecare dată când utilizatorii trimit cereri și, la scară largă, poate deveni și foarte mare. În practică, ambele contează, deși contează în moduri diferite.

Ce face ca o solicitare a inteligenței artificiale să consume mult mai multă energie decât alta?

Ferestrele de context mai lungi, ieșirile mai lungi, trecerile repetate de raționament, apelurile de instrumente, pașii de recuperare și generarea multimodală tind să crească consumul de energie per interacțiune. Țintele de latență contează și ele, deoarece cerințele de răspuns mai rapid pot reduce eficiența. O solicitare de rescriere mică și un flux de lucru lung de codare sau imagine pur și simplu nu sunt comparabile.

Ce costuri energetice ascunse trec cu vederea oamenii atunci când întreabă câtă energie folosește IA?

Mulți oameni se concentrează doar pe cip, dar acest lucru trece cu vederea răcirea, mișcarea datelor, stocarea, capacitatea inactivă și sistemele de fiabilitate, cum ar fi backup-urile sau regiunile de failover. Aceste straturi de suport pot schimba semnificativ amprenta totală. De aceea, un benchmark în sine rareori surprinde imaginea completă a energiei.

Un model de inteligență artificială mai mare folosește întotdeauna mai multă energie?

Modelele mai mari necesită de obicei mai multă putere de calcul și memorie, în special pentru ieșiri lungi sau complexe, așa că adesea consumă mai multă energie. Însă o dimensiune mai mare nu înseamnă automat o performanță mai bună pentru fiecare sarcină, iar optimizarea poate modifica considerabil situația. Modelele specializate mai mici, cuantizarea, stocarea în loturi, memorarea în cache și rutarea inteligentă pot îmbunătăți eficiența.

Este inteligența artificială a consumatorilor principala problemă energetică sau este inteligența artificială a întreprinderilor problema mai mare?

Utilizarea ocazională de către consumatori poate fi considerată o chestiune de consum, dar povestea energetică mai amplă apare adesea în implementările la nivel de întreprindere. Copiloții mereu activi, procesarea documentelor, sumarizarea apelurilor, revizuirea codului și agenții în fundal creează o cerere repetată pentru baze mari de utilizatori. Problema constă, de obicei, mai puțin într-o singură acțiune dramatică și mai mult într-un volum susținut în timp.

Câtă energie consumă inteligența artificială atunci când incluzi centrele de date și răcirea?

Odată ce sistemul mai amplu este inclus, răspunsul devine mai realist și este de obicei mai amplu decât sugerează estimările bazate doar pe cipuri. Centrele de date au nevoie de energie nu doar pentru procesare, ci și pentru răcire, creare de rețele, stocare și menținerea capacității de rezervă. De aceea, proiectarea infrastructurii și eficiența instalațiilor contează aproape la fel de mult ca proiectarea modelului.

Care este cea mai practică modalitate de a măsura consumul de energie al inteligenței artificiale într-un flux de lucru real?

Cea mai bună metodă depinde de cine măsoară și în ce scop. O regulă generală poate ajuta la comparații rapide, în timp ce wattmetrele, telemetria GPU, jurnalele de facturare în cloud și rapoartele din centrul de date oferă o perspectivă operațională din ce în ce mai puternică. Pentru activități serioase de sustenabilitate, o perspectivă mai completă asupra ciclului de viață este și mai puternică, deși este mai lentă și mai solicitantă.

Cum pot echipele să reducă consumul de energie al inteligenței artificiale fără a renunța la funcții utile ale inteligenței artificiale?

Cele mai mari câștiguri provin de obicei din utilizarea celui mai mic model care încă își face treaba, scurtarea prompturilor și a ieșirilor, stocarea în cache a rezultatelor repetate, gruparea lucrărilor și rutarea doar a sarcinilor mai dificile către modele mai mari. Optimizarea infrastructurii contează și ea, în special programarea și eficiența hardware-ului. În multe fluxuri de lucru, măsurarea mai întâi ajută la prevenirea optimizării greșite a echipelor.

Referințe

  1. Agenția Internațională a Energiei (AIE) - Cererea de energie din partea inteligenței artificiale - iea.org

  2. Departamentul Energiei al SUA (DOE) - DOE publică un nou raport care evaluează creșterea cererii de energie electrică în centrele de date - energy.gov

  3. Google Cloud - Măsurarea impactului asupra mediului al inferenței bazate pe inteligență artificială - cloud.google.com

  4. Google Research - Vești bune despre amprenta de carbon a instruirii prin învățare automată - research.google

  5. Google Research - Amprenta de carbon a instruirii prin învățare automată se va nivela și apoi se va reduce - research.google

  6. arXiv - Inteligență artificială verde - arxiv.org

  7. arXiv - Strubell et al. - arxiv.org

  8. arXiv - Strategii de cuantizare, lotizare și servire în utilizarea energiei în studiile de licență - arxiv.org

Găsește cea mai recentă tehnologie AI în Magazinul oficial de asistenți AI

Despre noi

Înapoi la blog