⚖️ Anthropic dă în judecată Pentagonul pentru a bloca includerea pe lista neagră din cauza restricțiilor privind utilizarea inteligenței artificiale ↗
Anthropic și-a adus în instanță disputa cu Pentagonul, după ce a fost etichetată drept un risc pentru lanțul de aprovizionare. Compania susține că această acțiune a fost o represalie ilegală pentru refuzul de a relaxa barierele de siguranță din jurul armelor autonome și al supravegherii interne - ceea ce plasează această dispută printre cele mai inflamabile puncte de conflict din politica privind inteligența artificială în acest moment. ( Reuters )
Guvernul dorește flexibilitate pentru „orice utilizare legală”, în timp ce Anthropic susține că laboratoarele private ar trebui să aibă în continuare permisiunea de a stabili limite stricte de siguranță. Acesta a devenit unul dintre cele mai clare teste de până acum pentru a demonstra dacă o companie de inteligență artificială poate spune „nu” termenilor militari fără a fi criticată pentru asta. ( Reuters )
🧑💻 Angajații OpenAI și Google susțin procesul intentat de Anthropic împotriva Pentagonului ↗
Acel proces a atras rapid sprijin și din interiorul laboratoarelor rivale. Aproape 40 de angajați de la OpenAI și Google au susținut Anthropic într-un memoriu amicus curiae, argumentând că represaliile împotriva firmelor din cauza limitelor de siguranță în domeniul inteligenței artificiale aduc atingere interesului public. ( The Verge )
Deci, da, concurenții s-au trezit brusc de aceeași parte - cel puțin în acest punct. Documentația se concentrează pe supravegherea în masă și armele autonome nesigure, ceea ce face ca întreaga afacere să pară mai puțin a atacuri standard din Silicon Valley și mai mult a o adevărată linie industrială în nisip... sau noroi, poate. ( The Verge )
🛡️ OpenAI achiziționează Promptfoo pentru a-și securiza agenții de inteligență artificială ↗
OpenAI a anunțat că achiziționează Promptfoo, un startup axat pe protejarea modelelor lingvistice mari de atacuri adverse. Planul este de a integra tehnologia sa în OpenAI Frontier, platforma enterprise a companiei pentru agenții de inteligență artificială. ( TechCrunch )
Este o mișcare semnificativă. Toată lumea își dorește ca inteligența artificială să facă mai mult, mai rapid, peste tot - dar partea de securitate a rămas în urmă, fie cu puțin, fie cu mult. Această înțelegere sugerează că OpenAI consideră că următoarea cursă majoră nu este doar pentru agenți mai inteligenți, ci și pentru unii mai siguri. ( TechCrunch )
🧪 Anthropic lansează un instrument de revizuire a codului pentru a verifica avalanșa de cod generat de inteligența artificială ↗
Anthropic a lansat Code Review în cadrul Claude Code, destinată echipelor care se îneacă în pull request-uri create de instrumente de codare bazate pe inteligență artificială. Aceasta folosește mai mulți agenți în paralel pentru a scana codul, a semnala problemele logice, a clasifica gravitatea și a lăsa comentarii direct pe GitHub. ( TechCrunch )
Ideea este destul de simplă - inteligența artificială generează cod mai repede decât pot oamenii să îl revizuiască în mod rezonabil, așa că acum inteligența artificială trebuie să revizuiască inteligența artificială. Un aranjament ușor de genul „șarpele își mănâncă coada”, dar unul practic. Anthropic spune că este orientat către utilizatorii din mediul de afaceri care deja văd o producție masivă de cod de la Claude Code. ( TechCrunch )
💰 Nscale, susținută de Nvidia, este evaluată la 14,6 miliarde de dolari într-o nouă rundă de finanțare ↗
Compania britanică de infrastructură de inteligență artificială Nscale a strâns 2 miliarde de dolari într-o rundă de finanțare din seria C, ajungând la o evaluare de 14,6 miliarde de dolari. Printre susținători s-au numărat Aker, 8090 Industries, Nvidia, Citadel, Dell și Jane Street - ceea ce reprezintă un vot de încredere destul de important. ( Reuters )
Aceasta contează pentru că nu este vorba de o altă lansare de model sau de o modificare a chatbot-ului. Este partea de „scoatere și scoatere din uz” a boom-ului - calcul, infrastructură, capacitate, toate utilajele grele din spatele cortinei. Nu e o idee atrăgătoare, poate, dar acolo se îndreaptă acum o mare parte din bani. ( Reuters )
🧠 AMI Labs, compania lui Yann LeCun, strânge 1,03 miliarde de dolari pentru a construi modele mondiale ↗
Noua companie a lui Yann LeCun, AMI Labs, a strâns 1,03 miliarde de dolari la o evaluare pre-money de 3,5 miliarde de dolari. Compania urmărește „modele mondiale” - sisteme de inteligență artificială menite să învețe din realitate, mai degrabă decât în principal din limbaj. ( TechCrunch )
Aceasta este o schimbare filozofică directă la adresa consensului actual, predominant în ceea ce privește LLM, și una deosebit de directă. LeCun a susținut ani de zile că modelele lingvistice actuale nu ne vor duce până la nivelul de inteligență umană, așa că această creștere a ponderii transformă argumentul într-un experiment foarte costisitor. ( TechCrunch )
🇨🇳 Centrele tehnologice chineze promovează agentul de inteligență artificială OpenClaw în ciuda avertismentelor de securitate ↗
Mai multe administrații locale chineze susțin OpenClaw, un agent de inteligență artificială care se răspândește rapid în ciuda preocupărilor legate de securitate legate de accesul său la date personale. Așadar, starea de spirit oficială pare a fi: da, există riscuri - și da, haideți să-l extindem oricum. ( Reuters )
Această divizare este povestea. Centrele locale își doresc creșterea economică și impulsul ecosistemului, în timp ce autoritățile de reglementare avertizează cu privire la expunerea datelor. Este un model familiar al inteligenței artificiale deja - sprintul este mai întâi, apoi se face ordine în cale, sau cel puțin așa pare. ( Reuters )
FAQ
De ce dă Anthropic în judecată Pentagonul pentru restricțiile privind utilizarea inteligenței artificiale?
Anthropic susține că Pentagonul a etichetat procesul drept un risc pentru lanțul de aprovizionare după ce compania a refuzat termeni mai largi care s-ar putea extinde la arme autonome și supraveghere internă. Acest lucru face ca procesul să fie mai mult decât un simplu statut de furnizor. Acesta testează dacă un laborator de inteligență artificială poate menține limite de siguranță ferme și totuși să concureze pentru lucrări guvernamentale fără a fi penalizat.
De ce susțin angajații OpenAI și Google Anthropic în această dispută privind siguranța inteligenței artificiale?
Memoriul amicus curiae semnalează faptul că mulți oameni din cadrul laboratoarelor rivale văd acest lucru ca pe o problemă de siguranță a inteligenței artificiale care stabilește un precedent, nu doar o luptă între o companie și o agenție. Îngrijorarea lor este că pedepsirea unui furnizor pentru menținerea unor limite ar putea pune presiune pe piața în sens larg pentru a slăbi măsurile de siguranță. În practică, acest lucru ar putea influența modul în care sunt negociate viitoarele contracte de inteligență artificială din domeniul apărării și din sectorul public.
Ce ar putea schimba cazul Antropo-Pentagon pentru politica în domeniul inteligenței artificiale și contractele de apărare?
Dacă Anthropic câștigă, companiile de inteligență artificială ar putea avea o bază mai solidă pentru a defini utilizările inacceptabile chiar și atunci când vând în medii guvernamentale sensibile. Dacă pierde, agențiile ar putea câștiga putere pentru a solicita furnizorilor termeni mai largi de „utilizare legală”. În orice caz, această dispută este probabil să influențeze limbajul achizițiilor publice, analizele de risc și modul în care garanțiile de siguranță sunt incluse în contractele de apărare.
De ce a cumpărat OpenAI Promptfoo pentru agenții AI?
Promptfoo este cunoscut pentru testarea modelelor lingvistice mari împotriva solicitărilor adverse și a altor vulnerabilități de securitate. Integrarea acestui tip de instrumente în platforma de agenți enterprise a OpenAI sugerează că firma consideră implementarea mai sigură ca un avantaj competitiv, mai degrabă decât ca o sarcină secundară. Pe măsură ce agenții AI preiau o muncă mai substanțială, testarea rezilienței și a abuzului devine mult mai greu de ignorat.
Cum pot echipele să gestioneze mai sigur avalanșa de cod generat de inteligența artificială?
Noua funcție Code Review din cadrul programului Anthropic, inclusă în programul Claude Code, este destinată echipelor copleșite de solicitările de extragere generate de instrumentele de codare bazate pe inteligență artificială. Folosește mai mulți agenți în paralel pentru a identifica problemele logice, a clasifica gravitatea și a lăsa comentarii pe GitHub. De obicei, astfel de instrumente ajută la trierea volumului, dar recenzorii umani sunt în continuare importanți pentru arhitectură, context și aprobarea finală.
De ce se investește atât de mult în infrastructura de inteligență artificială în acest moment?
Cea mai recentă rundă de finanțare a Nscale evidențiază faptul că industria inteligenței artificiale investește în continuare capital enorm în calcul, infrastructură și capacitate. Aceste cheltuieli pot fi mai puțin vizibile decât lansarea unui model ostentativ, dar stau la baza tuturor celorlalte. Atunci când cererea de instruire și implementare continuă să crească, companiile care vând târnăcoape și lopeți devin adesea unii dintre cei mai mari câștigători.
Ce sunt modelele mondiale și de ce pariază Yann LeCun pe ele?
Modelele lumii sunt sisteme de inteligență artificială concepute pentru a învăța din modul în care se comportă lumea, mai degrabă decât să se bazeze în principal pe date lingvistice. Acest lucru este important deoarece Yann LeCun a susținut de mult timp că modelele lingvistice, în sine, este puțin probabil să atingă nivelul de inteligență umană. AMI Labs transformă această perspectivă într-un pariu comercial major pe o cale diferită pentru cercetarea avansată în domeniul inteligenței artificiale.
De ce susțin centrele tehnologice chineze OpenClaw în ciuda avertismentelor de securitate?
Povestea OpenClaw arată o divizare familiară în cadrul piețelor tehnologice aflate în continuă evoluție: administrațiile locale își doresc creștere, subvenții și un impuls pentru ecosistem, în timp ce autoritățile de reglementare își fac griji cu privire la expunerea și securitatea datelor. Susținerea agentului în ciuda avertismentelor sugerează că stimulentele economice predomină în unele locuri. Pentru observatori, este o altă reamintire a faptului că adoptarea se desfășoară adesea mai repede decât supravegherea.