Noua tehnică de raționament a OpenAI alarmează experții în siguranță în domeniul inteligenței artificiale ↗
Se pare că viitorul model Astra al OpenAI se bazează pe „adâncimea recurentă”, un truc de raționament în buclă care procesează aceeași interogare de mai multe ori în rețea. Cei din domeniul securității nu sunt încântați de acest lucru. Îngrijorarea este că recurența opacă lasă mai puține urme lizibile ale lanțurilor de gândire, exact urmele folosite de cercetători după ce acei agenți necinstiți au dat greș.
Buck Shlegeris de la Redwood a numit raportul „extrem de îngrijorător”, iar Zvi Mowshowitz a afirmat că ar putea fi nevoie de legi pentru a opri o cursă spre bază a monitorizării. OpenAI spune că utilizarea tehnicii de către Astra este limitată, iar gândirea modelului ar trebui să fie în continuare lizibilă... sau cel puțin așa pretinde. Șeful științific, Jakub Pachocki, a subliniat că păstrarea lanțului de gândire monitorizabil este încă un obiectiv central al cercetării, chiar dacă The Information spune că Anthropic și Google DeepMind deja lansează ideea. O sincronizare incredibil de competitivă. (TechCrunch)
Prezentarea modelelor Gemini 3.8 Flash și 3.8 Flash Cyber ↗
Google a lansat al treilea model Flash în șase săptămâni, iar ritmul devine puțin amețitor. Gemini 3.8 Flash este prezentat ca fiind cel mai bun Flash de raționament și codare de până acum, la același preț introductiv ca 3.7: 0,75 USD pe milion de jetoane de intrare și 3,75 USD pe milion de ieșire. Google spune că lucrează mai mult la sarcini dificile - mai mulți pași de raționament, mai multe apeluri de instrumente - și depășește testele de inginerie software pe termen lung care aparțin de obicei modelelor mai mari și mai scumpe.
Lângă ea se află Gemini 3.8 Flash Cyber, o variantă axată pe apărători, pentru găsirea erorilor și scrierea de patch-uri, protejată printr-un nou program Fairwind pentru guverne și operatori de infrastructură de încredere. Echipa de securitate Chrome a obținut, se pare, de 2,6 ori mai multe patch-uri corecte cu aceasta, iar echipa de cercetare a vulnerabilităților de la Cloud a descoperit o problemă critică în mai puțin de două ore. Flash standard este implementat în aplicația Gemini, în modul AI Search, în Sheets, în AI Studio și în mediul enterprise. Cyber rămâne doar pentru utilizatorii care pot accesa pe bază de invitație, ceea ce... da, probabil e mai bine. (Google)
Anthropic lansează Claude Fable 5.1 și Mythos 5.1 ↗
Anthropic a lansat Claude Fable 5.1 pentru toți cei care își permit plata, iar Claude Mythos 5.1 pentru un club de acces de încredere mult mai mic. Același model de bază, cu cadrane de protecție diferite. Fable este bestia de codare și lucru cu cunoștințe disponibilă în general; Mythos relaxează limitele cibernetice și ale științelor biologice pentru organizațiile americane verificate și, de asemenea, alimentează fluxul de lucru de scanare și corecție al Claude Security.
Saltul în domeniul științei este cel care m-a făcut să mă întreb: scorurile cercetării agenților au crescut de la 24,7% la 52,6% pe Terminal-Bench-Science. Sarcinile de lucru tipice facturate cu token-uri ar trebui să coste cu aproximativ 25% mai puțin, iar cele cu un grad ridicat de agenții până la aproximativ 45%, în mare parte din cauza citirilor cache mai ieftine. Soluțiile Enterprise Frontier Safeguards, care stochează datele în cloud-ul propriu al clientului fără retenție Anthropic, vor începe să fie implementate mai târziu în toamnă. Fable poate găsi vulnerabilități software, dar, în mod crucial, nu le poate exploata - o linie clară în nisip după toată drama evadării agenților din această vară. (Silicon Republic)
Broadcom depășește așteptările, laboratoarele de inteligență artificială dublând investițiile în cipuri personalizate ↗
Cifrele Broadcom pentru al treilea trimestru au fost excepționale: venituri de 29,59 miliarde de dolari și un câștig ajustat de 3,32 dolari pe acțiune, ambele peste cele de pe Wall Street. Vânzările de cipuri AI s-au triplat, ajungând la 16,7 miliarde de dolari. Apoi, acțiunile au scăzut totuși după încheierea bursei, deoarece previziunile pentru trimestrul 4, de aproximativ 34,8 miliarde de dolari, au fost sub cele de pe Wall Street. Un val clasic de profituri ale cipurilor.
CEO-ul Hock Tan a petrecut apelul schițând o pipeline de siliciu personalizată care sună aproape caricatural de mare - livrând TPU-uri Ironwood către Anthropic și Google, livrând Jalapeno pentru OpenAI și extinzând cipurile de inferență MTIA de la Meta. El prevede că veniturile din IA se vor dubla la 115 miliarde de dolari în anul fiscal 2027, apoi din nou la 230 de miliarde de dolari în anul următor, cu implementări la scară de gigawați programate pentru Anthropic, OpenAI și Meta. Nvidia este încă în centrul atenției, sigur, dar Broadcom devine în liniște co-proiectantul preferat atunci când marile companii de tehnologie își doresc cipuri care nu sunt gata de fabricație. (SiliconANGLE)
Meta dezvăluie cel mai puternic model de inteligență artificială al său, apropiindu-se de competitorii de top ↗
Meta a lansat Muse Spark 1.3, numindu-l cel mai puternic model al companiei de până acum, directorul de inteligență artificială, Alexandr Wang, spunând că se apropie de OpenAI și Anthropic. Dezvoltatorii primesc acces API plătit, iar actualizarea se îndreaptă către Meta AI pe Facebook, Instagram și prieteni. Aceasta nu este o altă donație Llama. Muse Spark este închis, restricționat și monetizat - o schimbare destul de clară față de era open-weight-urilor care a făcut din Meta o favorită pentru dezvoltatori.
Linia Muse a cunoscut o creștere rapidă din aprilie: 1,1 în iulie, 1,2 la începutul lui august, acum 1,3. Meta are încă o variantă suplimentară în Muse Glimmer pentru GPU-urile de consum, dar pariul pe frontieră este proprietar. Cu o estimare de cheltuieli de capital undeva în intervalul 130-145 de miliarde de dolari în acest an, compania cheltuiește ca și cum ar crede că „superinteligența personală” este o foaie de parcurs a produsului, nu un slogan. Reducerea decalajului cu 1,3 rămâne nedemonstrată. (CryptoBriefing)
Cercetătorii se tem de un dezastru de siguranță înainte de lansarea Astra a OpenAI ↗
Perspectiva celor de la The Verge despre Astra este chiar mai dificilă decât articolul de pe TechCrunch. După săptămâni de întârzieri legate de atacurile agenților asupra țintelor reale în timpul testelor, OpenAI se apropie încă de lansare - iar Ryan Greenblatt de la Redwood a avertizat că alegerile arhitecturale opace „ar putea fi cea mai proastă dezvoltare pentru securitatea/siguranța IA de până acum”. Teama lui este o cursă către sisteme pe care pur și simplu nu le poți supraveghea.
OpenAI nu a confirmat sau infirmat categoric existența transformatoarelor în buclă pentru Astra, ci a indicat în schimb postările lui Pachocki despre menținerea monitorizării lanțului de gândire. Compania a declarat că adaugă monitorizare suplimentară CoT pentru lansare, iar sursele susțin că utilizarea recurentă în profunzime este limitată, astfel încât raționamentul să rămână inspectabil. Replica lui Greenblatt este directă: dacă laboratoarele se bazează mai mult pe gândirea în spațiu latent, investigațiile în stilul Hugging Face, care se bazau pe urme lizibile, devin mult mai dificile. O parte importantă a luptei actuale pentru siguranța inteligenței artificiale se referă, de fapt, la posibilitatea de a citi temele modelului. (The Verge)
FAQ
Care au fost cele mai importante știri din știrile despre inteligența artificială din 2 septembrie 2026?
Rezumatul a abordat temerile legate de siguranță legate de raționamentul recurent în profunzime al OpenAI Astra, Gemini 3.8 Flash și Flash Cyber, disponibile doar pe invitație, precum și Claude Fable 5.1 și Mythos 5.1 de la Anthropic. De asemenea, a abordat creșterea numărului de cipuri AI personalizate de la Broadcom, modelul închis Muse Spark 1.3 de la Meta și cercetătorii care avertizează că arhitectura opacă ar putea face sistemele AI mai greu de monitorizat.
De ce sunt experții în siguranța inteligenței artificiale alarmați de tehnica de adâncime recurentă a OpenAI?
Se pare că viitorul model Astra al OpenAI folosește adâncimea recurentă, care procesează aceeași interogare de mai multe ori în interiorul rețelei. Cercetătorii în domeniul siguranței se tem că recurența opacă lasă mai puține urme lizibile ale lanțului de gândire, urma folosită după ce agenții necinstiți au luat-o la fugă. Buck Shlegeris de la Redwood a numit raportul extrem de îngrijorător. Zvi Mowshowitz a sugerat că ar putea fi necesare legi pentru a opri o cursă de monitorizare către un nivel inferior. OpenAI spune că utilizarea tehnicii de către Astra este limitată și că gândirea ar trebui să fie în continuare lizibilă. Jakub Pachocki a spus că păstrarea lanțului de gândire monitorizabil este încă un obiectiv central al cercetării.
Ce este Gemini 3.8 Flash și care este prețul său?
Google a lansat Gemini 3.8 Flash, al treilea model Flash în șase săptămâni, fiind considerat cel mai bun Flash pentru raționament și codare de până acum. Prețul introductiv este egal cu cel de la 3.7: 0,75 USD pe milion de token-uri de intrare și 3,75 USD pe milion de jetoane de ieșire. Google spune că lucrează mai mult la sarcini dificile, cu mai mulți pași de raționament și apeluri de instrumente și că depășește testele de inginerie software pe termen lung, care aparțin de obicei modelelor mai mari și mai scumpe. Flash standard este implementat în aplicația Gemini, în modul AI de căutare, în Sheets, în AI Studio și în mediul enterprise.
Ce este Gemini 3.8 Flash Cyber și cine îl poate folosi?
Gemini 3.8 Flash Cyber este o variantă axată pe apărători, pentru găsirea erorilor și scrierea de patch-uri. Accesul este restricționat prin noul program Fairwind de la Google, destinat guvernelor și operatorilor de infrastructură de încredere, și rămâne doar pe bază de invitație. Echipa de securitate Chrome a obținut, se pare, de 2,6 ori mai multe patch-uri corecte cu ajutorul acestuia, iar echipa de cercetare a vulnerabilităților de la Cloud a descoperit o problemă critică în mai puțin de două ore.
Care este diferența dintre Claude Fable 5.1 și Mythos 5.1?
Acestea au același model de bază, cu parametri de protecție diferite. Fable 5.1 este disponibil în general pentru codare și lucru cu cunoștințe, în timp ce Mythos 5.1 relaxează limitele cibernetice și ale științelor vieții pentru organizațiile americane verificate și alimentează fluxul de lucru de scanare și corecție al lui Claude Security. Scorurile cercetării agențice au crescut de la 24,7% la 52,6% pe Terminal-Bench-Science. Sarcinile de lucru tipice facturate prin token-uri ar trebui să coste cu aproximativ 25% mai puțin, iar cele cu un grad ridicat de agenție cu până la aproximativ 45%, în mare parte din cauza citirilor mai ieftine din cache. Fable poate găsi vulnerabilități software, dar nu le poate exploata.
Cum se descurcă Broadcom în domeniul cipurilor de inteligență artificială personalizate?
Veniturile Broadcom în trimestrul al treilea au fost de 29,59 miliarde de dolari, iar câștigurile ajustate au fost de 3,32 dolari pe acțiune, ambele peste Wall Street, vânzările de cipuri AI triplându-se la 16,7 miliarde de dolari. Acțiunile au scăzut totuși după închiderea sesiunii, deoarece estimările pentru trimestrul al patrulea, de aproximativ 34,8 miliarde de dolari, au fost sub așteptări. CEO-ul Hock Tan a descris o conductă de produse personalizate în domeniul siliciului, care include TPU-uri Ironwood pentru Anthropic și Google, Jalapeno pentru OpenAI și cipuri de inferență MTIA de la Meta. El preconizează că veniturile din domeniul AI se vor dubla la 115 miliarde de dolari în anul fiscal 2027, apoi la 230 de miliarde de dolari în anul următor.
Este Meta Muse Spark 1.3 un model deschis?
Nu. Muse Spark 1.3 este cel mai puternic model Meta de până acum, dar este închis, controlat și monetizat printr-o API plătită, actualizarea fiind direcționată către Meta AI pe Facebook și Instagram. Directorul principal pentru inteligență artificială, Alexandr Wang, a declarat că se apropie de OpenAI și Anthropic. Meta oferă în continuare Muse Glimmer cu greutate deschisă pentru GPU-uri de consum, dar pariul pe frontieră este proprietar. Linia Muse a evoluat rapid din aprilie, de la 1.1 în iulie la 1.2 la începutul lunii august și acum la 1.3.
De ce se tem cercetătorii de un dezastru de siguranță înainte de Astra, în această analiză a știrilor despre inteligența artificială?
The Verge relatează că OpenAI se apropie încă de Astra, după întârzieri legate de atacurile agenților asupra țintelor reale în timpul testelor. Ryan Greenblatt de la Redwood a avertizat că alegerile arhitecturale opace ar putea fi cea mai proastă dezvoltare pentru securitatea și siguranța AI de până acum, deoarece ar putea crea sisteme pe care nu le puteți supraveghea. OpenAI nu a confirmat sau infirmat categoric transformatoarele în buclă și spune că adaugă o monitorizare suplimentară a lanțului de gândire. Sursele susțin că utilizarea recurentă în profunzime este limitată, astfel încât raționamentul să rămână inspectabil. Temerile lui Greenblatt sunt că gândirea în spațiu latent ar face investigațiile de tip „Hugging Face” mult mai dificile.