Câtă apă folosește IA?

Pun pariu că ați auzit de toate, de la „IA bea o sticlă de apă la fiecare câteva întrebări” până la „practic sunt câteva picături”. Adevărul este mai nuanțat. Amprenta de apă a IA variază foarte mult în funcție de locul în care rulează, de durata solicitării și de modul în care un centru de date își răcește serverele. Deci, da, cifra principală există, dar se află în mijlocul unei serii de avertismente.

Mai jos, analizez cifre clare, gata de luare a deciziilor, explic de ce estimările sunt contradictorii și arăt cum constructorii și utilizatorii obișnuiți pot reduce consumul de apă fără a deveni călugări ai sustenabilității.

Articole pe care ți-ar putea plăcea să le citești după acesta:

🔗 Ce este un set de date AI
Explică modul în care seturile de date permit antrenarea prin învățare automată și dezvoltarea de modele.

🔗 Cum prezice inteligența artificială tendințele
Arată cum analizează inteligența artificială tiparele pentru a prognoza schimbările și rezultatele viitoare.

🔗 Cum se măsoară performanța IA
Analizează parametrii esențiali pentru evaluarea preciziei, vitezei și fiabilității.

🔗 Cum să vorbești cu inteligența artificială
Ghidează strategii eficiente de îndrumare pentru a îmbunătăți claritatea, rezultatele și consecvența.

Câtă apă folosește inteligența artificială? Cifre rapide pe care le poți folosi cu adevărat 📏

• Per solicitare, intervalul tipic astăzi: de la submililitru pentru o solicitare text mediană pe un sistem mainstream, până la zeci de mililitri pentru un răspuns mai lung, cu o putere de calcul mai mare, pe altul. De exemplu, contabilitatea de producție a Google raportează o solicitare text mediană de ~0,26 mL (cu cheltuieli generale de servire complete incluse) [1]. Evaluarea ciclului de viață Mistral estimează un răspuns de asistent cu 400 de jetoane la ~45 mL (inferență marginală) [2]. Contextul și modelul contează foarte mult.

• Antrenarea unui model la scară frontieră: poate implica milioane de litri , în mare parte din răcire și apa încorporată în generarea de energie electrică. O analiză academică citată pe scară largă a estimat ~5,4 milioane de litri pentru antrenarea unui model de clasă GPT, inclusiv ~700.000 de litri consumați la fața locului pentru răcire - și a pledat pentru programarea inteligentă pentru a reduce intensitatea apei [3].

• Centre de date în general: centrele mari de date dețin, , sute de mii de galoane pe zi la operatorii majori, cu vârfuri mai mari în unele campusuri, în funcție de climă și design [5].

Să fim sinceri: acele cifre par inconsistente la început. Chiar sunt. Și există motive întemeiate.

Indicatori de utilizare a apei prin inteligență artificială ✅

Un răspuns bun la întrebarea Câtă apă folosește AI? ar trebui să bifeze câteva căsuțe:

1. Claritatea limitelor
   Include doar de răcire de la fața locului sau și din afara amplasamentului utilizată de centralele electrice pentru a genera electricitate? Cele mai bune practici disting între extracția de apă și consumul de apă și se încadrează în domeniile 1-2-3, similar cu contabilizarea emisiilor de carbon [3].

2. Sensibilitatea la locație
   Apa per kWh variază în funcție de regiune și de mixul de rețele, astfel încât aceeași solicitare poate avea impacturi diferite asupra apei în funcție de locul în care este furnizată - un motiv cheie pentru care literatura de specialitate recomandă programarea în funcție de timp și loc [3].

3. Realismul volumului de lucru.
   Reflectă numărul solicitările mediane de producție , inclusiv capacitatea inactivă și cheltuielile generale ale centrului de date, sau doar acceleratorul în momentul vârfului? Google pune accentul pe contabilizarea întregului sistem (inactivitate, CPU/DRAM și cheltuieli generale ale centrului de date) pentru inferență, nu doar pe calculul TPU [1].

4. Tehnologia de răcire
   Răcirea prin evaporare, răcirea cu lichid în buclă închisă, răcirea cu aer și abordările emergente direct-to-chip modifică dramatic intensitatea consumului de apă. Microsoft implementează proiecte menite să elimine utilizarea apei de răcire pentru anumite locații de generație următoare [4].

5. Momentul zilei și anotimp
   Căldura, umiditatea și condițiile rețelei modifică eficiența utilizării apei în viața reală; un studiu influent sugerează programarea lucrărilor majore atunci când și unde intensitatea consumului de apă este mai mică [3].

Extragerea apei vs. consumul de apă, explicat 💡

• Captare = apă prelevată din râuri, lacuri sau acvifere (o parte returnată).

• Consum = apă nereturnată deoarece se evaporă sau este încorporată în procese/produse.

Turnurile de răcire consumă apă prin evaporare. Generarea de energie electrică poate extrage volume mari (uneori consumând o parte din aceasta), în funcție de instalație și de metoda de răcire. O etichetă numerică credibilă a apei bazată pe inteligență artificială pe care o raportează [3].

Unde se duce apa în IA: cele trei găleți 🪣

1. Domeniul de aplicare 1 - răcire la fața locului
   Partea vizibilă: apa evaporată chiar în centrul de date. Opțiunile de proiectare, cum ar fi răcirea prin evaporare versus aer sau lichid în buclă închisă, au stabilit linia de bază [5].

2. Domeniul 2 - generarea de energie electrică
   Fiecare kWh poate avea o etichetă ascunsă privind apa; amestecul și locația determină semnalul în litri pe kWh pe care îl moștenește sarcina de lucru [3].

3. Domeniul de aplicare 3 - lanțul de aprovizionare
   Fabricarea cipurilor se bazează pe apă ultrapură. Nu o veți vedea într-o metrică „per prompt” decât dacă limita include în mod explicit impacturi încorporate (de exemplu, o LCA completă) [2][3].

Furnizori în cifre, cu nuanțe 🧮

• 
  Metodă de servire full-stack pentru solicitări Google Gemini Solicitarea text mediană este de ~0,26 ml de apă alături de ~0,24 Wh energie; cifrele reflectă traficul de producție și limitele complete [1].

• Ciclul de viață al Mistral Large 2.
  O analiză LCA independentă rară (cu ADEME/Carbone 4) dezvăluie ~281.000 m³ pentru antrenament + utilizare timpurie și o inferență marginală de ~45 mL pentru un răspuns asistent de 400 de jetoane

• Ambiția Microsoft de a consuma zero apă pentru răcire
  Centrele de date de generație următoare sunt proiectate să nu consume apă pentru răcire , bazându-se pe abordări direct-to-chip; utilizatorii administrativi încă mai au nevoie de apă [4].

• Scară generală a centrelor de date
  Marii operatori raportează public sute de mii de galoane pe zi, în medie, la locații individuale; clima și designul împing cifrele în sus sau în jos [5].

• Nivelul academic anterior
  Analiza fundamentală a „inteligenței artificiale însetate” a estimat milioane de litri pentru antrenarea modelelor din clasa GPT și că 10-50 de răspunsuri medii ar putea fi aproximativ echivalentul unei de 500 ml - în mare măsură de momentul/unde rulează [3].

De ce estimările sunt atât de contradictorii 🤷

• Limite diferite
  Unele cifre iau în considerare doar răcirea la fața locului ; altele adaugă apa pentru electricitate ; LCA-urile pot adăuga producția de cipuri . Mere, portocale și salată de fructe [2][3].

• Sarcini de lucru diferite
  O solicitare text scurtă nu este o rulare lungă de cod/multimodală; țintele de procesare în loturi, concurență și latență modifică utilizarea [1][2].

• Climate și rețele diferite
  Răcire prin evaporare într-o regiune caldă și aridă ≠ răcire cu aer/lichid într-una rece și umedă. Intensitatea apei din rețea variază foarte mult [3].

• Metodologii ale furnizorilor
  : Google a publicat o metodă de servire la nivel de sistem; Mistral a publicat un LCA formal. Alții oferă estimări punctuale cu metode rare. O afirmație de mare amploare, de „a cincisprezecea parte dintr-o linguriță” per prompt, a apărut în titluri - dar fără detalii privind limitele, nu este comparabilă [1][3].

• O țintă în mișcare
  Răcirea evoluează rapid. Microsoft pilotează răcirea fără apă în anumite locații; implementarea acestora va reduce consumul de apă la fața locului, chiar dacă energia electrică din amonte încă transmite un semnal de apă [4].

Ce poți face astăzi pentru a reduce amprenta de apă a inteligenței artificiale 🌱

1. Dimensionarea corectă a modelului
   Modelele mai mici, optimizate pentru sarcini, se potrivesc adesea cu precizia, consumând în același timp mai puțină putere de calcul. Evaluarea lui Mistral subliniază corelațiile puternice dintre dimensiune și amprentă - și publică cifre de inferență marginală, astfel încât să puteți raționa asupra compromisurilor [2].

2. Alegeți regiuni din punct de vedere al consumului de apă.
   Preferați regiunile cu climat mai rece, răcire eficientă și rețele cu o intensitate mai mică a apei per kWh; studiul „inteligenței artificiale însetate” arată că în funcție de timp și loc ajută [3].

3. Schimbarea volumului de muncă în timp.
   Programarea antrenamentului/inferenței lotului intens pentru orele eficiente din punct de vedere al consumului de apă (nopți mai reci, condiții favorabile ale rețelei) [3].

4. Solicitați furnizorului indicatori transparenți
   privind cererea de apă per prompt , definiții ale limitelor și dacă numerele includ capacitatea inactivă și cheltuielile generale ale instalației. Grupurile de politici publică insistă asupra divulgării obligatorii pentru a face posibile comparații exacte [3].

5. Tehnologia de răcire contează.
   Dacă utilizați hardware, evaluați răcirea cu buclă închisă/directă pe cip ; dacă sunteți în cloud, preferați regiunile/furnizorii care investesc în modele cu lumină naturală [4][5].

6. Utilizarea apei gri și reutilizarea opțiunilor.
   Multe campusuri pot înlocui sursele nepotabile sau pot recicla apa în cadrul buclelor; operatorii mari descriu echilibrarea surselor de apă și a opțiunilor de răcire pentru a minimiza impactul net [5].

Un exemplu rapid, ca să fie concret (nu o regulă universală): mutarea unei activități de instruire peste noapte dintr-o regiune caldă și uscată din mijlocul verii într-o regiune mai răcoroasă și mai umedă primăvara - și rularea acesteia în afara orelor de vârf, mai răcoroase - poate schimba atât consumul de apă la fața locului în afara amplasamentului (rețea). Acesta este genul de program practic, fără prea multe complicații, pe care îl poate debloca programarea câștigurilor [3].

Tabel comparativ: recomandări rapide pentru a reduce costul apei cauzat de inteligența artificială 🧰

(„Prețul” este conceput ca fiind flexibil - implementările variază.)

Analiză detaliată: zgomotul politicii devine tot mai puternic 🥁

Organismele de inginerie solicită dezvăluirea obligatorie a datelor despre energia și apa din centrele de date, astfel încât cumpărătorii și comunitățile să poată evalua costurile și beneficiile. Recomandările includ definiții ale domeniului de aplicare, raportare la nivel de amplasament și îndrumări privind amplasarea - deoarece, fără valori comparabile, ținând cont de locație, argumentăm în întuneric [3].

Analiză detaliată: centrele de date nu consumă toate la fel 🚰

Există un mit persistent conform căruia „răcirea cu aer nu folosește apă”. Nu chiar. Sistemele cu aer greu necesită adesea mai multă electricitate , care în multe regiuni transportă apă ascunsă din rețea; invers, răcirea cu apă poate reduce energia și emisiile cu prețul apei la fața locului. Operatorii mari echilibrează în mod explicit aceste compromisuri pentru fiecare locație în parte [1][5].

Analiză detaliată: o verificare rapidă a realității despre afirmațiile virale 🧪

Poate ați văzut afirmații îndrăznețe conform cărora o singură solicitare este egală cu „o sticlă de apă” sau, la celălalt capăt, cu „doar câteva picături”. O postură mai bună: umilință în fața matematicii . Valorile credibile de astăzi sunt de ~0,26 ml pentru o solicitare mediană de producție cu cheltuieli generale de servire completă [1] și ~45 ml pentru un răspuns de asistent de 400 de jetoane (inferență marginală) [2]. Afirmația mult împărtășită „a cincisprezecea parte dintr-o linguriță” nu are o limită/metodă publică; tratați-o ca pe o prognoză meteo fără oraș [1][3].

Mini-Întrebări frecvente: Câtă apă folosește inteligența artificială?, din nou, pe scurt 🗣️

• Deci, ce ar trebui să spun într-o ședință?
  „Conform promptului, variază de la picături la câteva înghițituri , în funcție de model, lungime și locul în care se desfășoară. Antrenamentul necesită bazine , nu bălți.” Apoi, citează unul sau două exemple de mai sus.

• Este IA unică în felul ei dăunătoare?
  Este concentrată : cipurile de mare putere îmbinate împreună creează sarcini mari de răcire. Dar centrele de date sunt și locul unde cea mai bună tehnologie de eficiență tinde să apară prima dată [1][4].

• Ce-ar fi dacă am trece totul la răcire cu aer?
  S-ar putea să reduceți de la fața locului , dar să creșteți consumul din afara amplasamentului prin electricitate. Operatorii sofisticați iau în considerare ambele aspecte [1][5].

• Dar tehnologia viitorului?
  Proiectele care evită răcirea apei la scară largă ar schimba regulile jocului pentru Domeniul 1. Unii operatori se îndreaptă în această direcție; energia electrică din amonte încă transmite un semnal de apă până la schimbarea rețelelor [4].

Observații finale - Prea lung, nu l-am citit 🌊

• Per prompt: gândiți -vă la submililitri până la zeci de mililitri , în funcție de model, lungimea promptului și locul în care rulează. Valoarea mediană a promptului este de ~0,26 ml pe o stivă majoră; ~45 ml pentru un răspuns de 400 de jetoane pe alta [1][2].

• Instruire: milioane de litri pentru modelele de frontieră, ceea ce face ca programarea, amplasarea și tehnologia de răcire să fie esențiale [3].

• Ce trebuie făcut: alegeți modele de dimensiuni potrivite, alegeți regiuni cu utilizare adecvată a apei, mutați sarcinile grele în ore mai răcoroase, preferați furnizorii care oferă modele cu utilizare redusă a apei și solicitați limite transparente [1][3][4][5].

O metaforă ușor defectuoasă pentru încheiere: IA e o orchestră însetată - melodia e de calcul, dar tobele sunt apă răcoritoare și de rețea. Acordează formația, iar publicul tot va auzi muzica fără ca stropitoarele să se declanșeze. 🎻💦

Referințe

1. Blogul Google Cloud - Câtă energie folosește inteligența artificială Google? Am făcut calculele (metodologie + ~0,26 ml mediană a solicitării, costuri suplimentare pentru servirea completă). Link
   (Document tehnic PDF: Măsurarea impactului asupra mediului al furnizării de inteligență artificială la scară Google .) Link

2. Mistral AI - Contribuția noastră la un standard global de mediu pentru IA (LCA cu ADEME/Carbone 4; ~281.000 m³ antrenament + utilizare timpurie; ~45 mL per răspuns de 400 de jetoane Link

3. Li și colab. - Cum să facem IA mai puțin „sete”: Descoperirea și abordarea amprentei secrete de apă a modelelor de IA (antrenarea a milioane de litri , în funcție de timp și loc , retragere vs. consum). Link

4. Microsoft - Centrele de date de generație următoare nu consumă apă pentru răcire (modele direct-to-chip care vizează răcirea fără apă în anumite locații). Link

5. Centre de date Google - Funcționare sustenabilă (compromisuri de răcire pentru fiecare locație în parte; raportare și reutilizare, inclusiv apă recuperată/grie; ordine de mărime a utilizării zilnice tipice la nivel de locație). Link

Găsește cea mai recentă tehnologie AI în Magazinul oficial de asistenți AI

Despre noi