CEO-ul Anthropic prezintă un plan de încetinire a dezvoltării inteligenței artificiale
Dario Amodei tocmai a cerut industriei să... încetinească. Nu să oprească. Ritmul. Un eseu lung, trei pași și un avertisment că auto-îmbunătățirea recursivă se gătește deja mai repede decât o pot audia adulții.
Anthropic invită unilateral evaluatori integrați în clădire - cu insigne, birouri, laptopuri și dreptul de a publica rezultatele fără filtru de PR. Apoi vrea ca laboratoarele democratice să coordoneze standardele de siguranță. Apoi, cumva, o înțelegere cu guvernele autoritare. Ușor pe hârtie. Dificil peste tot.
El continuă să spună că inteligența artificială ar putea fi un miracol. De asemenea, spune că un roi de nealiniați mai capabil ar putea prelua controlul asupra internetului cu o rețea de bot-uri persistentă și ar putea provoca pagube de sute de miliarde. Aceste două propoziții stau una lângă alta și nu se înțeleg.
A - și vrea o derogare antitrust restrânsă, astfel încât discuțiile privind siguranța să nu fie o problemă juridică în sine. Frânele vin la pachet cu documente. Bineînțeles că vin.
Sam Altman confirmă că OpenAI nu va deveni publică anul acesta, spunând că o IPO acum ar veni într-un „moment nepotrivit”, având în vedere preocupările legate de siguranța inteligenței artificiale
Altman a acordat un interviu exclusiv și a dat frâu liber calendarului de listare. O listare la bursă chiar acum, a spus el, ar fi un „moment nepotrivit”. Munca de siguranță nu este încă făcută. Alinierea nu este încă făcută. Societatea nu este pregătită. Când l-au presat - nu anul acesta.
Bancherii deja încercuiau compania. Dosarul confidențial există. Acum, directorul general spune că mai au multe de făcut, inclusiv să înțeleagă cum colaborează industria și guvernele. Părea aproape ușurat că a așteptat.
El a mai spus că construirea inteligenței artificiale în afara controlului uman este „absolut” posibilă - apoi a promis că va întrerupe instruirea dacă aceasta este calea. Îndrăzneț. Și convenabil, poate. Posibil ambele. Încurcătura dintre organizațiile non-profit și cele cu scop lucrativ, a argumentat el, există pentru ca acestea să poată face alegeri care nu sunt în mod evident în interesul acționarilor. Vom vedea dacă acea propoziție supraviețuiește contactului cu un prospect real.
Sam Altman de la OpenAI sugerează un pact cu alte companii de inteligență artificială pentru a aborda riscurile de siguranță
Același interviu, titlu diferit, iar acesta e tot ce se zvonește. Următoarea mișcare firească este să stai de vorbă cu Amodei, Musk și Demis Hassabis. Altman: El crede că asta se va întâmpla. Nu va anunța în prealabil discuții private. Apoi, practic, le-a anunțat în prealabil.
Un risc catastrofal de două cifre nu este acceptabil, a spus el. Modelele încă nelansate sunt deja atât de capabile încât a merge mai departe fără o monitorizare mai bună pare nesăbuit. Pactul real și atmosfera atent filtrată pot părea identice din exterior.
Personalul auzise deja o versiune a acestui lucru intern. Public, tot e ceață. Dacă se întâmplă asta, e grozav. Dacă nu, citatul tot a funcționat.
Sam Altman susține apelul lui Dario Amodei de a încetini ritmul și spune că OpenAI va face același lucru
La câteva ore după eseu, Altman a postat că OpenAI va respecta promisiunea de a avea un evaluator încorporat. Acces similar cu cel al angajaților. Mai multe în curând. Musk a scris trei cuvinte: „Dario are dreptate”. Trei directori generali rivali. Un singur slogan. Energie neliniștită de weekend.
Coordonarea și teatrul pot merge împreună. Prima treaptă a planului lui Amodei are acum două dintre cele mai mari laboratoare care dau din cap în public. Hugging Face - da, acel Hugging Face - a cerut să se alăture programului de evaluare și a lansat ceva numit Open Alignment Initiative. Transparență din partea oamenilor care au fost atacați. Poetic sau subliniat.
Europa, dacă e să mă gândesc, nu are pe nimeni căruia să-i ceară acea derogare în stil american. Bruxelles-ul a încetat să mai acorde scutiri individuale de mult timp. Așadar, strângerea de mână e americană. Restul hărții e... o ridicare din umeri.
OpenAI vrea doar să câștige
Matematicienii nu sunt într-o dispoziție festivă după un weekend de interviuri. Sprintul Navier-Stokes al OpenAI - aproximativ zece mii de agenți, zeci de milioane de dolari de calcul, optzeci și opt de ore - arată ca o vânătoare de trofee din interiorul terenului. Matematicienii vor perspective. Laboratorul, spun ei încontinuu, vrea să câștige.
Tristan Buckmaster le-a spus că OpenAI oferea putere de calcul nelimitată și autor unic dacă renunța la colaboratorul său afiliat Anthropic. El a numit-o mită. A spus nu. OpenAI spune, categoric, că solicitările sale din Codex nu ar fi putut influența sistemul. Nu este convins. Andreas Thom încă se întreabă dacă discuțiile ChatGPT despre propria sa muncă au alimentat modelul care a fost construit ulterior pe baza acesteia. Doar compania ar ști. El bănuiește că nici măcar nu știu.
Și apoi surpriza: OpenAI spune că a făcut deja progrese substanțiale la o altă problemă a Premiului Mileniului. Care rămâne fără nume. Clay oricum are nevoie de o perioadă lungă de acceptare din partea comunității. Deci nimeni nu a „câștigat” încă. Pur și simplu deja se întrec cu următoarea. Drăguț.
FAQ
Care este planul CEO-ului Anthropic, Dario Amodei, pentru a accelera dezvoltarea inteligenței artificiale?
Amodei a publicat un eseu lung în care cere industriei să încetinească - nu să se oprească - deoarece auto-îmbunătățirea recursivă avansează mai repede decât pot ține pasul auditorii. Primul pas este invitarea unilaterală a evaluatorilor integrați în Anthropic, oferindu-le insigne, birouri, laptopuri și dreptul de a publica concluziile fără filtru de relații publice. Apoi, el dorește ca laboratoarele democratice să coordoneze standardele de siguranță și, în cele din urmă, o formă de acord cu guvernele autoritare. De asemenea, el dorește o derogare antitrust restrânsă, astfel încât discuțiile privind siguranța să nu fie în sine o problemă juridică.
De ce a spus Sam Altman că OpenAI nu va fi listată la bursă anul acesta?
Într-un interviu exclusiv, Altman a spus că o listare la bursă chiar acum ar fi un moment nepotrivit, deoarece munca de siguranță, alinierea și pregătirea societății sunt neterminate. Când a fost întrebat, a confirmat că nu va avea loc anul acesta, chiar dacă bancherii o caută și există o înregistrare confidențială. El a susținut că structura non-profit/for-profit există, astfel încât OpenAI poate lua decizii care nu sunt în mod evident în interesul acționarilor. De asemenea, a spus că construirea IA în afara controlului uman este absolut posibilă și a promis că va întrerupe instruirea dacă aceasta ar fi calea.
A sugerat Altman un pact de siguranță cu alte laboratoare de inteligență artificială?
În același interviu, Altman a declarat că este de părere că va avea loc o întâlnire cu colegi precum Amodei, Musk și Demis Hassabis, refuzând în același timp să anunțe în prealabil discuții private. El a susținut că un risc catastrofal de două cifre nu este acceptabil și că modelele încă nelansate sunt deja atât de capabile încât a continua fără o monitorizare mai bună pare nechibzuit. Personalul auzise deja o versiune a acestui lucru intern, așa că comentariile publice ar putea anticipa coordonarea, mai degrabă decât să confirme un pact finalizat.
Va respecta OpenAI promisiunea Anthropic de a avea un evaluator integrat?
La câteva ore după eseul lui Amodei, Altman a postat că OpenAI va potrivi promisiunea de evaluator încorporat cu acces similar celui oferit de angajați și va oferi mai multe detalii în curând. Elon Musk a scris că Dario are dreptate, punând trei directori generali rivali pe un slogan similar. Hugging Face a cerut să se alăture programului de evaluatori și a lansat o Inițiativă Open Alignment. Europa nu poate oferi aceeași derogare antitrust în stil american pe care a propus-o Amodei, așa că strângerea de mână este în principal americană deocamdată.
De ce critică matematicienii sprintul Navier-Stokes al OpenAI?
Matematicienii descriu runda Navier-Stokes a OpenAI, cu aproximativ zece mii de agenți și optzeci și opt de ore, ca pe o vânătoare de trofee care prioritizează câștigarea în detrimentul perspectivei. Tristan Buckmaster a spus că OpenAI oferea calcul nelimitat și autor unic dacă renunța la un colaborator afiliat Anthropic; a numit-o mită și a refuzat. OpenAI spune că solicitările sale din Codex nu ar fi putut influența sistemul, dar rămâne neconvins. Andreas Thom încă insistă asupra faptului dacă discuțiile din ChatGPT despre propria sa muncă alimentează progresul ulterior al modelului.
A revendicat OpenAI progrese în ceea ce privește o altă problemă a Premiului Mileniului?
OpenAI spune că a făcut deja progrese substanțiale în ceea ce privește o altă problemă pentru Premiul Mileniului, dar nu va numi care. Institutul de Matematică Clay are nevoie în continuare de o perioadă lungă de acceptare din partea comunității, așa că nimeni nu a câștigat oficial încă. În cadrul domeniului, acest secret plus cursa Navier-Stokes anterioară se citesc ca niște laboratoare care deja aleargă spre următorul trofeu. Interviurile de la The Verge prezintă tensiunea ca fiind una în care matematicienii își doresc perspective, în timp ce OpenAI vrea să câștige.