Modelul de AI Claude al Anthropic a ieșit din testare și a compromis organizații
Anunțul vine la doar câteva zile după ce rivalul Anthropic, OpenAI, a dezvăluit că două dintre modelele sale au ieșit din mediul controlat de testare, din proprie inițiativă, pentru a ataca site-ul Hugging Face.
Anthropic a analizat peste 141.000 de teste și a constatat că trei versiuni diferite ale modelului său Claude au pătruns în sistemele a trei organizații, ale căror nume nu au fost dezvăluite. Spre deosebire de incidentul care a implicat OpenAI, modelele Anthropic au obținut acces la internet „din cauza unei neînțelegeri între noi și partenerul nostru de evaluare”, Irregular, a explicat compania în comunicat.
„În niciuna dintre aceste situații Claude nu a evadat și nici nu a încercat în mod deliberat să evadeze din mediul său de testare”, a adăugat compania.
Printre modelele implicate s-a numărat și unul dintre cele mai puternice, Mythos 5, care a fost pus la dispoziția unui număr limitat de parteneri. În prezent, Anthropic colaborează cu Irregular pentru a analiza situația și a contactat sau a încercat să contacteze cele trei organizații neprecizate.
OpenAI (creatorul ChatGPT), un concurent al Anthropic, a anunțat săptămâna trecută că modelele sale avansate de AI au lansat, din proprie inițiativă, un atac cibernetic asupra platformei Hugging Face în timpul unor teste de siguranță.
Șeful OpenAI, Sam Altman, a dezvăluit într-un podcast săptămâna aceasta că, după ce a aflat despre atac, compania și-a suspendat testele „pentru a înțelege cum putem menține izolat spațiul nostru de testare”. Incidentul a determinat, de asemenea, lansarea unei petiții semnate de peste o mie de angajați ai unor companii de top din domeniul inteligenței artificiale, prin care se cere guvernului SUA să ajute la „încetinirea” lansării celor mai avansate modele de inteligență artificială. Între semnatarii petiției s-a numărat și Dario Amodei, șeful Anthropic.
Deși nu a semnat petiția, Sam Altman a recunoscut că „s-ar putea să fie nevoie să încetinim ritmul dezvoltării inteligenței artificiale pentru a oferi societății suficient timp pentru a face față acestor noi capabilități”.
