Programul Mythos de la Anthropic a descoperit vulnerabilități în sistemele guvernului SUA
Anthropic a colaborat cu serviciile de informații americane pentru teste cu Mythos în cadrul Proiectului Glasswing, un program secret pentru identificarea și eliminarea breșelor în software-uri vitale înainte de a putea fi exploatate de atacatori.
Senatorul Mark Warner din Virginia a declarat luna aceasta în cadrul unei audieri parlamentare că șeful Agenției Naționale de Securitate (NSA, National Security Agency) Joshua Rudd l-a informat că Mythos „a penetrat în aproape toate sistemele noastre secrete nu în săptămâni, ci în ore”.
AP citează sub rezerva anonimatului un oficial american care a declarat că deși Mythos a detectat unele vulnerabilități în numai câteva ore, nu înseamnă că modelul le-ar fi putut și exploata atât de rapid.
Casa Albă și Anthropic nu au răspuns imediat solicitărilor Reuters de a comenta, iar Departamentul Apărării a redirecționat întrebările către NSA.
Relațiile Anthropic cu Guvernul de la Washington au avut momente tensionate. Compania, care se pregătește de listarea la bursă, a refuzat să permită forțelor armate americane utilizarea modelelor sale de inteligență artificială pentru supraveghere pe teritoriul SUA și pentru sisteme de armament complet autonome, iar ca urmare SUA au inclus Anthropic pe o listă neagră în domeniul securității. Luna aceasta, Guvernul Statelor Unite a interzis exportul celor mai recente modele ale inteligențelor artificiale Mythos și Fable, dezvoltat tot de Anthropic, către orice țări sau cetățeni străini, din motive de securitate națională. În consecință, potrivit ziarului New York Times, NSA a rămas fără acces la Mythos.
Anthropic a declarat încă din aprilie că modelele sale de AI de vârf Mythos au capacități fără precedent de detectare a breșelor în software. Serviciile de securitate din Regatul Unit, SUA, Australia, Canada și Noua Zeelandă, alianța în domeniul informațiilor secrete cunoscută ca Five Eyes, au avertizat, conform unei știri difuzate marți de AFP, că inteligența artificială progresează atât de rapid, încât pirateria informatică asistată de AI ar putea depăși în câteva luni orice bariere de securitate. Serviciile secrete au cerut insistent guvernelor de la Londra, Washington, Canberra, Ottawa și Wellington și companiilor din țările lor să se pregătească rapid pentru evoluția AI.
