Consilierii lui Trump le spun firmelor de inteligență artificială că nu vor testa siguranța modelelor cu greutate deschisă, spun surse ↗
Administrația Trump a comunicat companiilor de inteligență artificială de top că nu va testa siguranța modelelor cu greutate deschisă, potrivit unor persoane familiarizate cu discuțiile. Acest lucru lasă o parte destul de semnificativă a evaluării riscurilor în afara cadrului guvernamental.
În practică, dezvoltatorii și utilizatorii ar putea fi nevoiți să își asume o responsabilitate mai mare pentru evaluarea modelelor înainte de lansare sau implementare. Poate fi favorabil inovării... dar momentul este dificil, deoarece modelele deschise devin mai capabile într-un ritm alert. (Reuters)
Modelele de inteligență artificială cu greutate deschisă ajung din urmă granița. Decalajul de siguranță rămâne. ↗
Se pare că GLM-5.2 al companiei Z.ai este la doar câteva luni în urma modelelor închise de top în ceea ce privește capacitățile cibernetice și biologice. Testele SaferAI au constatat că nu a refuzat niciuna dintre sarcinile cibernetice ofensive sau biologice cu dublă utilizare care i-au fost prezentate.
Modelele închise se pot baza pe antrenamentul de refuz, clasificatoare și controale API. Ponderile descărcabile sunt o cu totul altă creatură - odată lansate, măsurile de siguranță pot fi modificate sau eliminate, ceea ce face ca decalajul de siguranță să pară distinct în formă de canion. (TechCrunch)
Samsung Electronics lansează tehnologia de memorie bazată pe inteligență artificială de generație următoare ↗
Samsung a dezvăluit un prototip BV-NAND cu peste 400 de straturi și un nou design de îmbinare a waferelor. Compania spune că oferă o densitate de memorie cu aproximativ 58% mai mare decât generația anterioară, alături de performanțe mai rapide la citire, scriere și intrare-ieșire.
Samsung a prezentat, de asemenea, memorie zHBM suprapusă vertical, poziționată deasupra acceleratoarelor de inteligență artificială. Compania susține că arhitectura ar putea oferi o densitate de peste zece ori mai mare decât HBM5 convențional, o eficiență energetică triplă și o rezistență termică substanțial mai mică - promisiuni substanțiale, ca să spunem așa. (Reuters)
Cursa pentru centrele de date cu inteligență artificială generează o povară de 1 trilion de dolari pentru chirii pentru marile companii tehnologice ↗
Microsoft, Meta, Oracle, Amazon și Alphabet au angajat aproximativ 1,09 trilioane de dolari pentru contracte de leasing care nu au început încă, în mare parte pentru centre de date cu inteligență artificială. Aceste obligații sunt de aproape patru ori mai mari decât datoriile de leasing recunoscute.
Capacitatea ar putea alimenta următorul boom al tehnologiei cloud. Sau, mai puțin plăcut, ar putea obliga companiile să plătească pentru facilități imense dacă cererea de inteligență artificială dezamăgește - o haină de un trilion de dolari cumpărată înainte ca cineva să verifice vremea. (Reuters)
Anthropic semnează un contract de 10 miliarde de dolari cu startup-ul de cloud computing pentru inteligență artificială Volta ↗
Se pare că Anthropic a fost de acord să achiziționeze o capacitate de calcul de 10 miliarde de dolari de la startup-ul de cloud computing Volta, specializat în inteligență artificială, pe o perioadă de șase ani. Acordul ar sprijini un centru de date norvegian cu o capacitate de 133 de megawați.
Compania de minerit cripto Bitdeer este așteptată să ajute la dezvoltarea instalației, care va utiliza sistemele Vera Rubin de la Nvidia. Anthropic colectează parteneriate de calcul precum magneții de frigider - doar că acești magneți costă miliarde. (TechCrunch)
IA oferă „o gură de oxigen” economiilor emergente, afirmă Banca Mondială ↗
Banca Mondială afirmă că inteligența artificială ar putea permite economiilor în curs de dezvoltare să comprime un secol de progres într-un deceniu, cu condiția să îmbunătățească energia electrică, conectivitatea și competențele digitale. Instrumente mai mici, adaptate local, ar putea sprijini asistența medicală, educația, agricultura și serviciile publice fără a fi necesare modele naționale gigantice.
Raportul său estimează că 4,5% din locurile de muncă din țările cu venituri mici și medii sunt expuse inteligenței artificiale generative, comparativ cu 14,2% în economiile mai bogate. Chiar și așa, promisiunea vine cu avertismente directe despre inegalitate, dezinformare și represiune politică - o gură de oxigen cu mai multe noduri legate de ea. (Reuters)
FAQ
De ce guvernul SUA nu testează siguranța modelelor de IA cu greutate deschisă?
Conform articolului, administrația Trump a comunicat companiilor de inteligență artificială de top că modelele cu greutate deschisă nu vor fi incluse în cadrul său guvernamental de testare a siguranței. Acest lucru pune mai multă responsabilitate pe dezvoltatorii, distribuitorii și utilizatorii de modele, care ar putea fi nevoiți să evalueze independent riscurile cibernetice, biologice, de utilizare necorespunzătoare și de implementare înainte de a lansa sau adopta aceste sisteme.
De ce sunt modelele AI cu greutate deschisă mai greu de securizat decât modelele închise?
Modelele de inteligență artificială cu pondere deschisă pot fi descărcate, modificate și operate în afara infrastructurii dezvoltatorului original. Prin urmare, măsurile de siguranță precum instruirea privind refuzul, clasificatoarele și controalele de acces pot fi slăbite sau eliminate. Modelele închise sunt de obicei livrate prin API-uri controlate, oferind furnizorilor o mai mare libertate de a monitoriza utilizarea, de a restricționa accesul și de a actualiza protecțiile după implementare.
Cum ar trebui organizațiile să evalueze modelele de IA cu ponderare deschisă înainte de implementare?
O abordare comună este testarea modelului în funcție de scenarii realiste de utilizare abuzivă, inclusiv sarcini cibernetice ofensive, solicitări biologice cu dublă utilizare și încercări de ocolire a măsurilor de siguranță. Organizațiile ar trebui, de asemenea, să examineze modul în care va fi găzduit modelul, cine va putea să îl modifice și ce sisteme de monitorizare sunt disponibile. Implementările cu risc mai mare necesită de obicei controale de acces mai stricte și o supraveghere umană susținută.
Ce este concepută pentru a îmbunătăți noua tehnologie de memorie AI de la Samsung?
Prototipul BV-NAND de la Samsung utilizează peste 400 de straturi și un design de tip wafer-bonding menit să crească densitatea memoriei, îmbunătățind în același timp performanța de citire, scriere și intrare-ieșire. Compania a descris, de asemenea, memoria zHBM suprapusă vertical, poziționată deasupra acceleratoarelor de inteligență artificială. Aceste designuri sunt destinate să răspundă cerințelor de capacitate, energie și căldură create de sarcinile de lucru din ce în ce mai intense legate de inteligența artificială.
De ce sunt considerate un risc financiar contractele de închiriere pentru centrele de date cu inteligență artificială ale Big Tech?
Se pare că Microsoft, Meta, Oracle, Amazon și Alphabet au angajat aproximativ 1,09 trilioane de dolari pentru contracte de leasing care nu au început încă, o mare parte din acestea fiind legate de centre de date cu inteligență artificială. Capacitatea suplimentară ar putea susține creșterea rapidă a cererii de cloud și inteligență artificială. Cu toate acestea, companiile ar putea în continuare să datoreze plăți substanțiale dacă cererea se dezvoltă mai lent decât se așteaptă sau dacă infrastructura rămâne subutilizată.
Cum ar putea IA să aducă beneficii economiilor emergente?
Banca Mondială susține că IA ar putea ajuta economiile în curs de dezvoltare să își consolideze asistența medicală, educația, agricultura și serviciile publice, în special prin intermediul unor instrumente mai mici, adaptate nevoilor locale. Aceste beneficii depind de electricitate fiabilă, acces la internet și competențe digitale. Guvernele trebuie, de asemenea, să gestioneze riscuri precum inegalitatea, dezinformarea și represiunea politică, pe măsură ce adoptarea se extinde.