OpenAI va întrerupe o parte din lucrul la modelul de inteligență artificială Astra din cauza unor probleme de securitate ↗
OpenAI întrerupe activitatea internă la Astra, care nu îndeplinește cerințe de securitate mai stricte, după ce evaluările au sugerat că abilitățile sale cibernetice ar fi putut depăși un prag „critic”. Se pare că agentul ar putea găsi și exploata vulnerabilități fără intervenție umană sau ar putea efectua atacuri de la un obiectiv de nivel înalt. Da... aceasta este o linie destul de serioasă de depășit.
Compania consolidează testarea izolată, accesul la rețea și instrumente, protecția în funcție de ponderarea modelului, criptarea și monitorizarea. Astra nu a fost implicată în incidentul anterior Hugging Face al OpenAI, dar modelul mai larg de agenți din ce în ce mai autonomi face ca izolarea să fie o preocupare mult mai mare. (Sursa: The Guardian)
Apple spune că utilizatorii de Mac din China se pot conecta la serviciul de inteligență artificială Qwen de la Alibaba ↗
Utilizatorii de Mac eligibili din China continentală pot acum conecta Qwen de la Alibaba la Siri și la instrumentele de scriere de la Apple. Aceasta înseamnă răspunsuri mai detaliate, plus analiza documentelor și imaginilor, alături de generarea de text și imagini din descrieri.
Este o relație interesantă, sincer - Apple obține o cale conformă local către funcții de inteligență artificială mai puternice într-o piață de PC-uri extrem de competitivă, în timp ce Alibaba integrează Qwen mult mai adânc în ecosistemul altcuiva. Apple spune că materialul trimis prin extensie nu poate fi folosit de Alibaba pentru a-și antrena modelele. (Sursa: Reuters)
Google DeepMind intră într-o nouă eră odată cu schimbarea rolului cofondatorului Demis Hassabis în domeniul inteligenței artificiale ↗
Demis Hassabis renunță la conducerea zilnică a DeepMind, devenind președinte, preluând în același timp rolul de șef științific la Alphabet. Colegul său de multă vreme, Koray Kavukcuoglu, preia controlul operațional în calitate de vicepreședinte senior, în loc de CEO - o schimbare subtilă de titlu care spune multe.
Remanierea are loc alături de plecările altor cercetători majori și ridică semne de întrebare cu privire la faptul dacă DeepMind devine mai puțin independent și mai strâns absorbit de mașina comercială de inteligență artificială a Google. Google contestă faptul că schimbarea este legată de performanța competitivă a Gemini. (Sursa: The Guardian)
Un număr tot mai mare de copii din Marea Britanie declară că au văzut deepfake-uri explicite cu ei înșiși ↗
Sesizările copiilor din Marea Britanie despre imagini explicit false sau manipulate cu ei înșiși au crescut vertiginos. Report Remove a primit 420 de sesizări în doar șase luni, depășind deja totalul anual anterior de 397. Instrumentele de „nudificare” bazate pe inteligență artificială fac problema extrem de ușor de extins.
Fundația Internet Watch afirmă că multe dintre imaginile manipulate raportate au fost suficient de grave pentru a depăși pragul de abuz sexual asupra copiilor. Unele victime au fost, de asemenea, vizate de sextorsionare, transformând o imagine generată de inteligența artificială într-o armă foarte tangibilă. (Sursa: The Guardian)
Funcțiile de inteligență artificială depășesc valoarea comercială, arată un sondaj ↗
Companiile de software pentru întreprinderi lansează funcții de inteligență artificială, dar clienții nu le folosesc neapărat. Într-un sondaj realizat în peste 260 de companii de software pe verticală, 51% au declarat că mai puțin de un sfert dintre clienții lor foloseau capacitățile de inteligență artificială pe care le-au construit. Un pic ciudat după atâta livrare...
Blocajul seamănă mai puțin cu capacitatea inteligenței artificiale și mai mult cu integrarea, securitatea, confidențialitatea, schimbările fluxului de lucru și demonstrarea valorii concrete a afacerii. Un fenomen deosebit de particular este „tokenmaxxing” - un consum excesiv de inteligență artificială care arată impresionant pe un tablou de bord, fără dovezi clare că produce rezultate mai bune. (Sursa: Forbes)
Inteligența artificială schimbă munca mai repede decât pot ține pasul datele ↗
Argumentul dintre locurile de muncă și inteligența artificială devine tot mai complex, nu mai clar. Un studiu care a acoperit peste 21.000 de firme din SUA a constatat că firmele care au adoptat cel mai mult inteligența artificială și-au mărit numărul total de angajați cu 10%, iar angajările la nivel de bază cu 12%, în timp ce firmele care au adoptat cel mai puțin intens nu au înregistrat nicio creștere a numărului de angajați.
Însă alte cercetări au descoperit o presiune asupra ocupării forței de muncă în rândul lucrătorilor mai tineri în roluri expuse inteligenței artificiale, iar economiștii avertizează că firmele în creștere pot în continuare angaja în timp ce inteligența artificială schimbă ocupațiile în economia în general. Așadar, inteligența artificială distruge locuri de muncă și le creează... sau cel puțin așa ar vrea să vă facă să credeți seturile de date contradictorii. (Sursa: Fortune)
FAQ
Care sunt cele mai importante evoluții din domeniul inteligenței artificiale în acest moment?
Știrile recente despre inteligența artificială indică mai multe teme care se suprapun: capacități autonome mai puternice, controale de securitate mai stricte, integrări mai profunde ale platformelor, schimbări în conducere, riscuri pentru siguranța online și o valoare comercială incertă. OpenAI înăsprește măsurile de siguranță în jurul Astra, Apple conectează Qwen la Mac-uri în China, iar DeepMind schimbă conducerea. În același timp, cresc îngrijorările legate de deepfake-uri, adoptarea de către întreprinderi și efectul inteligenței artificiale asupra ocupării forței de muncă.
De ce a întrerupt OpenAI unele lucrări la Astra?
Se pare că OpenAI a întrerupt activitatea internă a Astra, care nu îndeplinea cerințe de securitate mai stricte, după ce evaluările au sugerat că capabilitățile cibernetice ale modelului ar fi putut atinge un nivel critic. Există îngrijorarea că un agent avansat ar putea descoperi și exploata vulnerabilități cu intervenție umană limitată sau fără intervenție umană. Ca răspuns, OpenAI consolidează testarea izolată, controalele de acces, criptarea, monitorizarea și protecțiile legate de ponderile modelului.
Cum va funcționa Alibaba Qwen cu Apple Mac-urile în China?
Utilizatorii de Mac eligibili din China continentală pot conecta serviciul Qwen de la Alibaba la Siri și la instrumentele de scriere Apple. Integrarea poate oferi răspunsuri mai detaliate, analiză de documente și imagini și generare de text sau imagini din descrieri. Pentru Apple, acordul oferă o rută conformă local către o funcționalitate AI mai puternică, în timp ce Alibaba obține un acces mai profund la ecosistemul Apple. Apple spune că materialele trimise nu pot fi utilizate pentru a antrena modelele Alibaba.
Ce înseamnă schimbarea conducerii DeepMind pentru Google AI?
Demis Hassabis se retrage de la conducerea zilnică a DeepMind și devine președinte și preia rolul de om de știință șef la Alphabet. Koray Kavukcuoglu va prelua controlul operațional în calitate de vicepreședinte senior. Schimbarea a ridicat semne de întrebare cu privire la faptul dacă DeepMind devine mai strâns integrată cu operațiunile comerciale mai ample de inteligență artificială ale Google, deși Google contestă sugestiile conform cărora reorganizarea este legată de performanța competitivă a Gemini.
De ce deepfake-urile bazate pe inteligență artificială devin o problemă mai mare pentru siguranța copiilor?
Instrumentele de manipulare a imaginilor bazate pe inteligență artificială pot facilita crearea de imagini false explicite și realiste la scară largă. Copiii din Marea Britanie raportează din ce în ce mai mult imagini manipulate sau fabricate cu ei înșiși, iar unele cazuri au fost suficient de grave pentru a îndeplini pragul pentru materiale de abuz sexual asupra copiilor. Aceste imagini pot fi folosite și pentru sextorcare, ceea ce înseamnă că o imagine fabricată poate provoca în continuare daune substanțiale reputaționale, emoționale și financiare.
Beneficiază deja companiile și lucrătorii de IA?
Cele mai recente știri despre inteligența artificială sugerează că răspunsul este mixt. Multe companii de software adaugă funcții de inteligență artificială mai repede decât le adoptă clienții, integrarea, confidențialitatea, securitatea și valoarea comercială măsurabilă rămânând bariere majore. Datele privind ocuparea forței de muncă sunt la fel de complicate: unele companii cu o adoptare intensă a inteligenței artificiale extind angajările, în timp ce alte cercetări indică presiunea asupra lucrătorilor mai tineri în roluri expuse inteligenței artificiale. Impactul general depinde în mare măsură de industrie, de fluxul de lucru și de modul în care este implementată inteligența artificială.