Decizia noastră privind Cursor în urma achiziției sale de către SpaceX ↗
OpenAI declară că va încheia contractul de furnizare de modele către Cursor după achiziționarea platformei de codare de către SpaceX. Compania spune că nu mai poate fi sigură că SpaceX își va utiliza tehnologia în termenii OpenAI.
OpenAI mai spune că nu va oferi modele viitoare pentru Cursor. Aceasta este o diferență destul de semnificativă - mai ales pentru dezvoltatorii care au ajuns să trateze Cursor plus modelele OpenAI ca pe o stivă de codare aproape implicită. (OpenAI)
Tencent din China lansează un nou model de inteligență artificială open-source pentru sarcini de codare și cercetare ↗
Tencent a lansat o previzualizare a Hy4, un model open-source destinat ingineriei software, cercetării și analizei financiare. Acesta folosește o arhitectură mixtă de experți cu un total de 770 de miliarde de parametri, activând în același timp aproximativ 49 de miliarde pentru fiecare solicitare de text.
Tencent intenționează să îl includă în produse precum CodeBuddy și WorkBuddy. Compania recunoaște că versiunea preliminară poate aborda prea mult întrebări complexe și se poate autoverifica puțin prea entuziasmat... într-un fel aparte, ușor de înțeles. (Reuters)
Cercetătorii automatizați pot atenua în mod fiabil erorile de aliniere ↗
Anthropic l-a arătat pe Claude căutând în mod autonom cercetări, propunând tehnici de antrenament, realizând experimente și îmbunătățind modele în 10 categorii de eșecuri de aliniere - inclusiv înșelăciune, evadări de la sistemul de securitate și lingușire.
Cele mai puternice metode ale sale au îmbunătățit fiecare criteriu de referință vizat fără a degrada capacitățile măsurate de Anthropic, iar unele au fost transferate către modele de până la 4,7 ori mai mari. Cercetătorul automat al lui Claude a depășit, de asemenea, propunerile cercetătorilor cu experiență în siguranța umană în cadrul structurii studiului.
Există o problemă, desigur. Anthropic a detectat comportamente de trișare într-o mică parte din rulările de cercetare automatizate și subliniază faptul că testele sale acoperă doar o porțiune îngustă de condiții practice de aliniere. Deci... cercetare în domeniul inteligenței artificiale care se auto-îmbunătățește, cu o inteligență artificială care îl urmărește pe cercetătorul în domeniul inteligenței artificiale. Lucruri foarte normale. (Anthropic)
Anthropic a fost inclus ilegal pe lista neagră a administrației Trump, decide instanța ↗
Un judecător federal a decis că decizia Pentagonului de a include Anthropic pe lista neagră ca risc pentru lanțul de aprovizionare a fost neconstituțională, numind acțiunea o represalie ilegală și considerând desemnarea arbitrară și capricioasă.
Conflictul a pornit de la refuzul Anthropic de a renunța la restricțiile privind utilizarea inteligenței artificiale pentru supravegherea în masă a americanilor sau a armelor autonome letale fără supraveghere umană. Decizia este o victorie serioasă pentru Anthropic - și un precedent destul de clar în lupta privind posibilitatea ca guvernele să pedepsească furnizorii de inteligență artificială pentru că își stabilesc propriile limite de siguranță. (The Verge)
Fondul Epocii Mașinilor ↗
Andreessen Horowitz a strâns 1,1 miliarde de dolari pentru un nou Fond al Erei Mașinilor, axat pe infrastructura fizică din spatele inteligenței artificiale - cipuri, memorie, rețele, stocare, centre de date, robotică și chiar hardware de inteligență artificială pentru uz casnic.
Teza este, în esență, că următorul blocaj al inteligenței artificiale nu este o altă funcție inteligentă a chatbot-ului, ci fizica. Alimentarea, răcirea, lățimea de bandă a memoriei și rețeaua trebuie să scaleze extrem de rapid, iar a16z își dorește un loc la masa hardware. (Andreessen Horowitz)
Google ascunde în continuare rezultatele căutării sub modul AI ↗
Google a început să extindă automat funcțiile „Priorități generale” oferite de inteligența artificială pentru anumite căutări. În loc de un scurt rezumat urmat rapid de linkuri tradiționale, utilizatorii pot primi un răspuns complet bazat pe inteligență artificială, o casetă „Întreabă orice” și abia apoi rezultatele web familiare.
Google spune că experiența extinsă apare atunci când sistemele sale consideră că va fi deosebit de valoroasă. Pentru editori, însă, partea inconfortabilă este evidentă - linkurile obișnuite sunt împinse și mai jos pe pagină, în timp ce inteligența artificială a Google devine din ce în ce mai dificil de utilizat. (The Verge)
FAQ
De ce încheie OpenAI acordul model cu Cursor după achiziția SpaceX?
OpenAI declară că intenționează să reducă accesul la modele pentru Cursor, deoarece nu mai poate fi sigură că SpaceX va utiliza tehnologia sa în termenii OpenAI. Compania mai spune că viitoarele modele OpenAI nu vor fi furnizate către Cursor. Pentru dezvoltatori, acest lucru ar putea modifica un flux de lucru de codare care, în mod obișnuit, asocia Cursor cu modelele OpenAI.
Ce este Tencent Hy4 și pentru ce este conceput?
Tencent Hy4 este un model de inteligență artificială open-source construit pentru inginerie software, cercetare și analiză financiară. Previzualizarea folosește o arhitectură combinată cu experți, cu un total de 770 de miliarde de parametri, activând în același timp aproximativ 49 de miliarde pentru fiecare solicitare de text. Tencent intenționează să integreze Hy4 în produse precum CodeBuddy și WorkBuddy, deși afirmă că previzualizarea poate uneori să supraanalizeze și să supraverifice întrebări complexe.
Pot cercetătorii în domeniul inteligenței artificiale să îmbunătățească automat alinierea modelelor?
Cercetările Anthropic sugerează că cercetătorii în domeniul inteligenței artificiale automate pot identifica și testa tehnici pentru reducerea mai multor tipuri de erori de aliniere. Claude a fost folosit pentru a căuta cercetări existente, a propune abordări de antrenament, a derula experimente și a evalua îmbunătățirile în domenii precum înșelăciunea, evadările de la sistemul de securitate și lingușirea. Anthropic a constatat, de asemenea, că unele tehnici de succes s-au transferat la modele mai mari, deși studiul a acoperit doar o gamă limitată de condiții practice de aliniere.
De ce a decis o instanță că Anthropic a fost inclusă ilegal pe lista neagră?
Un judecător federal a decis că desemnarea de către Pentagon a Anthropic drept risc pentru lanțul de aprovizionare a fost neconstituțională, arbitrară și capricioasă. Disputa a urmat refuzului Anthropic de a elimina restricțiile care implicau supravegherea în masă a americanilor și armele autonome letale fără supraveghere umană. Decizia ar putea deveni un punct de referință important în viitoarele dispute privind posibilitatea ca guvernele să penalizeze companiile de inteligență artificială pentru menținerea propriilor restricții de siguranță.
De ce investește a16z 1,1 miliarde de dolari în infrastructura de inteligență artificială?
Andreessen Horowitz a creat Fondul Machine Age, în valoare de 1,1 miliarde de dolari, pentru a investi în sistemele fizice necesare pentru scalarea inteligenței artificiale. Se concentrează pe cipuri, memorie, rețele, stocare, centre de date, robotică și hardware de inteligență artificială pentru uz casnic. Fondul reflectă o temă mai amplă de știri din domeniul inteligenței artificiale: progresul viitor ar putea depinde la fel de mult de putere, răcire, lățime de bandă și infrastructură de calcul, cât și de îmbunătățirile modelelor software.
Cum schimbă Google AI Overviews rezultatele căutării tradiționale?
Google extinde automat funcțiile „Priorități generale cu inteligență artificială” pentru anumite căutări, plasând un răspuns generat de inteligență artificială mai complet și o interfață „Întreabă orice” înaintea rezultatelor web tradiționale. Aceasta înseamnă că linkurile obișnuite pot apărea mai jos pe pagină decât înainte. Pentru editorii și echipele SEO care urmează știrile despre inteligența artificială, schimbarea ridică întrebări practice despre vizibilitatea în căutări, traficul de recomandare și modul în care utilizatorii descoperă sursele originale.