Noul „cod de conduită” al inteligenței artificiale al Microsoft le spune modelelor să nu pirateze sistemele sau să păcălească oamenii
Deci Microsoft a renunțat la o întreagă constituție pentru modelele sale - niște linii roșii reale. Fără atacuri cibernetice. Fără chestii nucleare. Fără fabrici deepfake. Și cea mai importantă problemă: modelul nu are voie să scape de închidere.
Îl numesc un cod general care suprascrie orice ai tastat în chat. Ceea ce e... cam reconfortant. Sau dominant. Poate ambele.
Nadella este și ea aici, dând din cap alături de mulțimea care susține „aceste schimbări”. O postură atentă și o conștientizare a situațiilor pesimiste pot părea la fel din exterior; Microsoft alege să nu fie laboratorul care ridică din umeri.
În orice caz, documentul sună ca și cum cineva ar fi scris în sfârșit „te rog, nu deveni un antagonist al filmelor de groază” în proză corporativă.
OpenAI cumpără producătorul de camere pentru smartphone-uri Glass Imaging pentru 300 de milioane de dolari, arată un raport
Între timp, OpenAI a cumpărat în liniște un startup de camere foto pentru peste 300 de milioane de dolari. Glass Imaging. Fondată de foști oameni de la Apple Portrait Mode. Deci nu este o achiziție întâmplătoare - acești oameni au livrat obiective pe care oamenii le cunosc.
Argumentul nu este „IA îți va remedia selfie-ul în post-procesare”. Este vorba de rețele neuronale care învață camerele specifice ale unui telefon și obțin fotografii mai bune la un clic al declanșatorului. Senzori minusculi, ambiție mare.
OpenAI nu a comentat. Desigur. Și da - asta se află lângă toate zvonurile despre hardware, telefoane, căști și gadgeturi însoțitoare. Aproape că poți auzi pe cineva spunând „stivă de viziune” într-o ședință și toată lumea dând din cap prea tare.
O companie de camere foto, piesa lipsă a unui dispozitiv, rămâne un pariu deschis - sau doar un pariu foarte scump că pixelii contează în continuare atunci când chatboții devorează lumea.
Acțiunile globale ale IA scad, deoarece liderii din industrie solicită încetinirea dezvoltării
Piețele nu au fost încântate de predica privind siguranța. Numele de cipuri au fost afectate. SoftBank a fost complet atacată în Asia. Bursa de tehnologie din Europa a tresărit. Bursa de SOX a avut o dimineață dificilă.
Declanșatorul a fost acel moment rar în care directorii generali sunt de acord asupra a ceva - „încetinirea” lui Amodei, Altman și Musk spunând practic „da”. Altman a mai spus că OpenAI nu va face o listare la bursă anul acesta din cauza îngrijorărilor legate de siguranță... în timp ce Anthropic încă se îndreaptă spre una. Această tensiune este greu de aplatizat.
Trump a respins-o ca fiind o „conspirație bolnavă” împotriva inteligenței artificiale și a centrelor de date. Michael Burry a respins avertismentele drept un zgomot exagerat. Așadar, atmosfera este: frică existențială pe o linie temporală, cinism specific meme-urilor pe cealaltă.
De asemenea, numele din domeniul securității cibernetice au crescut în forță. Pentru că, desigur, scutirea împotriva faptului că „IA ar putea deveni necinstită” este „cumpărați mai mult software de securitate”. Capitalismul găsește o cale..
Companiile de top din domeniul inteligenței artificiale au discutat despre crearea propriului organism de standardizare
CNN spune că Anthropic, Google și OpenAI au discutat despre construirea propriului organism de standardizare - cum ar fi o FINRA pentru modele de frontieră. Hassabis a lansat ideea cu luni în urmă. Acum, grupurile de lucru sunt aparent reale.
Finanțat din industrie. Experți independenți. Testează modele avansate înainte de a fi livrate. Discuții în curs de desfășurare pentru a stabili dacă Washingtonul dorește sau nu să participe.
Autoreglementarea sună întotdeauna nobilă până când îți amintești că aceleași laboratoare se întrec între ele. Apoi sună ca un club cu un cod vestimentar. Apoi te întorci: ok, poate evaluatorii externi cu acces similar celui al angajaților ar ajuta.
Nu toată lumea este convinsă. Se pare că Zuckerberg i-ar fi spus lui Trump să renunțe la ideea FINRA pentru inteligența artificială. Așadar, coaliția „ne vom auto-controla” are deja o rezistență faimoasă.
Anthropic vizează consultanții financiari cu noul instrument Claude
În timp ce jumătate din dezbaterile din industrie au încetat, Anthropic l-a trimis pe Claude la Financial Advisors. Conectori către BlackRock, Schwab, Addepar - plus o grămadă de nume de investiții importante precum Envestnet și Orion.
Pregătirea pentru ședințe. Revizuirea portofoliului. Urmărirea treburilor intense. Chestiile lipsite de farmec care, cumva, totuși, îi devorează ziua de marți unui om.
Momentul este însă frapant - la câteva zile după campania financiară a OpenAI pentru bancheri și cercetători. Deci da, ei se află la graniță... și, de asemenea, concurează pentru cota de piață a portofelului RIA. O contradicție ușoară. Extrem de ușoară. Extrem de evidentă.
Dacă consultantul tău începe să vorbească suspect de fluent despre activele tale, ei bine. Acum știi de ce.
Liderii inteligenței artificiale cer o încetinire. Echipa lui Trump spune că este vina lor
WIRED surprinde perfect imaginea politică: șefii laboratoarelor vor ajutor pentru încetinirea ritmului; atmosfera de la Casa Albă este „cool, faceți-o singuri”
Practic, David Sacks a spus că, dacă modelele tale nelansate te sperie, fii responsabil - dar nu te mai preface că ai nevoie de o derogare antitrust ca să formezi un cartel de siguranță. Dur. De asemenea, e cam greu să te contrazici dacă ai urmărit aceste companii timp de cinci minute.
Replica lui Trump este mai simplă: America conduce China în ceea ce privește inteligența artificială și vrea să rămână așa - „oricine câștigă inteligența artificială, câștigă”. Președintele Camerei Reprezentanților, Johnson, avertizează că un sprint de urgență în materie de reglementări ar putea anula cursa.
Așadar, promisiunea lui Altman privind „evaluatorii independenți cu acces similar celui al angajaților” ajunge în această prăpastie dificilă - construirea voluntară a încrederii, în timp ce guvernul ridică din umeri. Progresul și teatrul călătoresc din nou împreună.
FAQ
Ce interzice noul cod de conduită privind inteligența artificială al Microsoft?
Microsoft a publicat un cod de conduită general cu linii roșii pentru modelele sale, inclusiv interzicerea atacurilor cibernetice, a activităților nucleare și a fabricilor de deepfake-uri. O regulă cheie este că modelul nu are voie să se eschiveze de la închidere. Codul este menit să suprascrie orice a introdus un utilizator în chat. Satya Nadella a fost, de asemenea, de acord cu mulțimea „pace-the-frontier” pe măsură ce laboratoarele devin mai precaute în public.
De ce a cumpărat OpenAI Glass Imaging pentru aproximativ 300 de milioane de dolari?
Se pare că OpenAI a cumpărat producătorul de camere pentru smartphone-uri Glass Imaging pentru peste 300 de milioane de dolari. Startup-ul a fost fondat de foști ingineri Apple Portrait Mode, care au dezvoltat funcții de camere deja cunoscute de oameni. Ideea sa este reprezentată de rețele neuronale care învață anumite camere de telefon și îmbunătățesc fotografiile la declanșator, nu doar de remedieri prin inteligență artificială în post-procesare. Acordul se adaugă la zvonuri despre hardware legate de telefoane, căști și gadgeturi însoțitoare, deși OpenAI nu a comentat.
De ce au scăzut acțiunile globale ale inteligenței artificiale după ce directorii generali ai laboratoarelor au anunțat o încetinire a pieței?
Piețele au reacționat negativ la rarele momente în care directorii generali au fost de acord, când Amodei a cerut încetinirea dezvoltării, iar Altman și Musk au fost în general de acord. Numele de cipuri au fost afectate, SoftBank a fost afectată în Asia, indicele de tehnologie european s-a crispat, iar SOX a avut o dimineață dificilă. Altman a menționat, de asemenea, că OpenAI nu va face o IPO anul acesta din cauza îngrijorărilor legate de siguranță, în timp ce Anthropic încă se grăbește spre una. Numele de securitate cibernetică s-au redresat ca o protecție împotriva fricii legate de inteligența artificială necinstită.
Își creează Anthropic, Google și OpenAI propriul organism de standardizare a inteligenței artificiale?
CNN relatează că Anthropic, Google și OpenAI au discutat despre construirea unui organism de standardizare industrială - similar cu o FINRA pentru modele de frontieră - cu finanțare din partea industriei, experți independenți și testare prealabilă a modelelor avansate. Demis Hassabis a lansat ideea cu luni în urmă, iar grupurile de lucru ar fi acum reale. Discuțiile continuă despre dorința Washingtonului de a participa. Nu toată lumea este convinsă: Zuckerberg i-ar fi spus lui Trump să renunțe la ideea FINRA pentru IA.
Ce este Claude de la Anthropic pentru consultanți financiari?
Anthropic a livrat instrumentul Claude pentru consultanți financiari cu conectori către BlackRock, Schwab, Addepar și nume de companii de tip wealth-stack precum Envestnet și Orion. Instrumentul vizează activitățile consultanților neatractive, cum ar fi pregătirea întâlnirilor, revizuirea portofoliului și monitorizarea activităților intense. Lansarea vine la câteva zile după campania OpenAI pentru bancheri și cercetători în domeniul financiar. Aceasta înseamnă că laboratoarele se află în plină desfășurare în domeniul public, în timp ce concurează pentru cota de piață a portofelului RIA.
Cum a răspuns echipa lui Trump liderilor din domeniul inteligenței artificiale care au cerut o încetinire a creșterii economice?
WIRED relatează că șefii laboratoarelor vor ajutor pentru încetinirea ritmului, în timp ce la Casa Albă se spune că ar trebui să o facă singuri. David Sacks a spus că, dacă modelele nelansate vă sperie, fiți responsabili - dar nu vă prefaceți că aveți nevoie de o derogare antitrust pentru a forma un cartel de siguranță. Replica mai simplă a lui Trump este că America conduce China în ceea ce privește inteligența artificială și cine câștigă, câștigă. Președintele Camerei Reprezentanților, Johnson, avertizează că un sprint de reglementare de urgență ar putea anula cursa, lăsând promisiunea lui Altman de a deveni evaluator independent într-o pauză voluntară.