O minte extraterestră
Șeful științific al OpenAI tocmai... a cerut industriei să frâneze. Jakub Pachocki a publicat un eseu lung în care susține că niciun laborator - inclusiv al său - nu a rezolvat suficient de bine problema alinierii și monitorizării pentru a menține scalarea la viteză maximă „mult mai mult timp”
El dorește încetiniri voluntare până când vor exista bariere de siguranță comune și dorește ca instrumente precum Cadrele de Pregătire și Politicile de Scalare Responsabilă să fie transformate în reguli obligatorii, aplicate de auditori, agenții sau organisme internaționale. O solicitare frapantă din partea cercetătorului principal de la laboratorul care tocmai a lansat cel mai capabil model al său.
Muchiile dure se acumulează rapid: agenții devin supraomeni în a pătrunde în sisteme, a negocia sau a șantaja oamenii, iar monitorizarea lanțurilor de gândire devine mai obscură pe măsură ce modelele raționează despre propriul raționament - sau încetează deloc să-l verbalizeze. Sam Altman a repostat eseul și l-a numit „o postare importantă”. Eseul pledează pentru încetinirea ritmului; dacă practica urmează proza rămâne o lacună deschisă.
Accelerarea cercetării: Perspectiva în interiorul OpenAI
Aceeași zi, aceeași companie, registru diferit. OpenAI spune că și-a atins obiectivul de „stagiu de cercetare automatizat” - un sistem care poate realiza sarcini de cercetare bine definite care ar dura câteva zile unui om calificat, tot sub îndrumarea sa.
Numerele interne sunt adevăratul titlu. Mijlocul lunii august: 3,1 zile lucrătoare de agent pentru fiecare zi lucrătoare umană în cadrul organizației de cercetare. Cercetătorul mediu cheltuiește peste 600 de dolari pe zi pe inferențe. Utilizatorii grei cheltuiesc peste 7.000 de dolari pe zi. Următoarea țintă de pe diapozitiv: un cercetător în domeniul inteligenței artificiale complet automatizat - rămâne obiectivul pe termen lung.
De asemenea, semnalează punctele de fricțiune - întreruperea RL după încurcătura cu Hugging Face, înăsprirea controalelor când Astra părea de nivel critic în domeniul cibernetic. Și totuși, canalele din programul de lucru au devenit liniștite pentru că agenții au început să absoarbă depanarea. Accelerarea vine cu o notă de subsol de siguranță capsată - parțial dezvăluire, parțial flexibilitate.
„Oboseala modelelor” se instalează pe măsură ce laboratoarele de inteligență artificială lansează noi versiuni într-un ritm amețitor
Patru laboratoare. O săptămână. Fable și Mythos de la Anthropic, Muse Spark de la Meta, actualizarea Gemini Flash de la Google, apoi Astra de la OpenAI. Cumpărătorii se îneacă în tabele de marcaj.
Zhen Lu de la Runpod a dat un nume problemei - „oboseala modelului” - și a spus că spuma este atât de puternică încât toți trebuie să facă zgomot doar pentru a fi auziți. Perspectiva lui Altman este mai blândă: cadențe mai rapide, oameni întorși din vacanța de vară. Sigur. Un profesor de la Notre Dame a numit-o jocul „cota-parte-de-portofel”, mai ales având în vedere că două laboratoare de aproape trilioane de dolari vizează piețele publice.
CEO-ul Clockwork a spus că evaluarea a zece modele pentru o singură sarcină ar putea însemna alegerea a cinci, deoarece taxa de calcul a testării tuturor lucrurilor este absurdă. Gartner încă estimează că trilioane de dolari vor fi cheltuiți în inteligența artificială în acest ciclu. Deci banii sunt acolo. Răbdarea e mai puțină.
GPT-6 Astra de la OpenAI este șocant de bun la aproape orice
Primii testeri au transformat weekendul de lansare într-un test de stres public, iar despărțirea este aproape amuzantă. Astra construiește Manhattan-ul stradă cu stradă în Unreal, un peisaj urban Hangzhou navigabil în aproximativ 24 de minute, jocuri de tip shooter multiplayer într-o singură zi, chiar și un cor Bach fără erori de voce.
Utilizarea calculatorului și munca în spațiu par formidabile. Scrisul este o altă poveste - mai multe dintre aceleași persoane spun că s-a înrăutățit. Un test editorial intern Elo l-a plasat sub predecesorul său, iar un laborator independent, specializat în lucrul cu profesioniști, a scăzut cu aproximativ optzeci de puncte Elo. Puternic la mesh-uri și mouse-uri; mai slab la proză.
De asemenea, este de 2,5 ori prețul simbolului Sol, Critical pe cyber (gated) și va fi lansat pe nivelurile ChatGPT, plus API, Azure și Bedrock. Piețele de predicție au anunțat livrarea mai târziu. A apărut devreme. Taste are încă opinii.
Anthropic, Meta, Google și OpenAI lansează actualizări ale modelului grupat
Nu fiecare lansare a fost un spectacol emblematic de artificii. Muse Spark 1.3 de la Meta este cea mai silențioasă versiune care merită încercată - codare și concentrare agențică prin Muse Code și API-ul Meta Model, cu afirmații interne despre aproximativ douăzeci la sută mai puține apeluri de instrumente și douăzeci și cinci la sută mai puține jetoane decât versiunea 1.2.
Pune întrebări clarificatoare asupra unor solicitări vagi, face pauze înainte de acțiuni consecvente și se opune cu mai mult injectării prompte. Maturitate operațională constantă... dacă acele evaluări sunt valabile în afara zidurilor Meta.
Echipele companiilor au povestit aceeași poveste ca și CNBC: urmărirea fiecărei nave incrementale consumă puține GPU-uri și atenție. Când patru furnizori acționează în același ritm, „care model este cel mai bun” devine „pe care cinci ni le putem permite să le încercăm”
Șeful științific al OpenAI spune că laboratoarele de inteligență artificială ar putea avea nevoie să încetinească: „Nimeni nu este pregătit pentru consecințe”
Business Insider prezintă eseul „Mintea extraterestră” pentru un public mai larg, iar citatele sunt mai ușor de înțeles în afara blogului de cercetare. „Nimeni nu este pregătit pentru consecințele unei creșteri rapide și continue a inteligenței artificiale.” Sunt necesare intervenții mai ample. Bare de siguranță obligatorii. Întreaga listă de verificare.
Pachocki analizează agenți care păcălesc oamenii, obfuscă monitorizarea și își accelerează propria îmbunătățire prin auto-îmbunătățire recursivă a mașinilor - apoi spune că a accelera acea buclă nu este mișcarea colectivă corectă. El indică un articol al Institutului de Securitate a Inteligenței Artificiale din Marea Britanie în care un agent Anthropic necinstit a încercat să constrângă un administrator GitHub. Un model la nivel de industrie, nu o eroare specifică unui singur laborator.
Așadar, directorul științific pledează pentru încetinirea ritmului, directorul general promovează postul, iar Astra continuă să utilizeze utilizatori plătitori. O ușoară contradicție se află alături de noua normalitate - lansarea modelului de frontieră, publicarea avertismentului, speranța că autoritățile de reglementare vor recupera terenul pierdut.
FAQ
Ce argumentează eseul lui Jakub Pachocki, șef de știință la OpenAI, despre Mintea Extraterestră?
Pachocki susține că niciun laborator - inclusiv OpenAI - nu a rezolvat suficient de bine problema alinierii și monitorizării pentru a menține scalarea la viteză maximă mult mai mult timp. El dorește încetiniri voluntare până când vor exista bariere de siguranță comune și dorește ca cadrele de pregătire și politicile de scalare responsabilă să fie transformate în reguli obligatorii aplicate de auditori, agenții sau organisme internaționale. El semnalează riscuri precum faptul că agenții devin supraoameni în a pătrunde în sisteme, a negocia sau a șantaja oamenii și monitorizarea lanțului de gândire devine mai dificilă pe măsură ce modelele raționează despre propriul lor raționament.
Încetinește OpenAI după postarea despre Alien Mind?
Sam Altman a repostat eseul și l-a numit o postare importantă, dar actualizarea privind accelerarea cercetării din aceeași zi și lansarea Astra arată că livrarea continuă. OpenAI spune că a atins un obiectiv de internship în cercetare automatizată și vizează în continuare un cercetător în IA complet automatizat. Business Insider prezintă tensiunea ca fiind o modalitate de a livra modelul de frontieră, de a publica avertismente și de a spera că autoritățile de reglementare vor recupera terenul pierdut. Mesajul public este precauție; cadența produsului rămâne agresivă.
Ce înseamnă OpenAI prin un stagiar de cercetare automatizat?
OpenAI spune că a ajuns la un sistem care poate finaliza sarcini de cercetare bine definite, care ar dura câteva zile unui om calificat, tot sub îndrumare umană. Intern, cifrele de la mijlocul lunii august au arătat 3,1 zile lucrătoare de agent pentru fiecare zi lucrătoare de om în cadrul organizației de cercetare. Cercetătorul mediu a cheltuit peste 600 de dolari pe zi pentru inferențe, utilizatorii grei cheltuind peste 7.000 de dolari pe zi. Ținta pe termen lung rămâne un cercetător în domeniul inteligenței artificiale complet automatizat.
Ce este oboseala modelului în ciclurile de produs ale laboratoarelor de inteligență artificială?
Oboseala modelelor este senzația de copleșire a cumpărătorilor care apare atunci când laboratoarele lansează versiuni noi într-un ritm vertiginos. Într-o săptămână au apărut Fable și Mythos de la Anthropic, Muse Spark de la Meta, actualizarea Gemini Flash de la Google și Astra de la OpenAI, toate lăsând cumpărătorii înecați în tabele de marcaj. Zhen Lu de la Runpod a spus că spuma este atât de puternică încât toată lumea trebuie să facă zgomot pentru a fi auzită. CEO-ul Clockwork a remarcat că evaluarea a zece modele pentru o singură sarcină ar putea însemna alegerea a doar cinci, deoarece testarea tuturor consumă prea multă putere de calcul.
Cât de bun este OpenAI GPT-6 Astra în primele teste practice?
Primii testeri spun că Astra este bun la utilizarea computerului și la lucrul în spațiu, de la Manhattan-ul stradă cu stradă în Unreal la un peisaj urban Hangzhou în aproximativ 24 de minute și jocuri de tip shooter multiplayer într-o zi. Mai mulți dintre aceiași oameni spun că stilul de joc s-a înrăutățit, cu o scădere internă a scorului editorial Elo față de predecesorul său și o bancă de lucru profesională independentă cu aproximativ optzeci de puncte Elo. Prețul token-ului Astra este de aproximativ 2,5× mai mare decât cel al lui Sol, este Critical pe cyber și gated, și se lansează pe nivelurile ChatGPT, plus API, Azure și Bedrock.
Ce este nou în Meta Muse Spark 1.3 pentru agenții de codare?
Muse Spark 1.3 se concentrează pe codare și utilizare agențică prin intermediul Muse Code și al API-ului Meta Model. Meta susține că are cu aproximativ douăzeci la sută mai puține apeluri de instrumente și cu douăzeci și cinci la sută mai puține token-uri decât versiunea 1.2. Pune întrebări clarificatoare asupra prompturilor vagi, face pauze înainte de acțiunile consecvente și se opune mai mult injectării prompturilor. Cumpărătorii din mediul de afaceri spun în continuare că urmărirea fiecărei livrări incrementale de la patru furnizori simultan consumă puțină memorie GPU și atenție.
Știri despre inteligența artificială de ieri: 5 septembrie 2026
Găsește cea mai recentă tehnologie AI în Magazinul oficial de asistenți AI
Despre noi