Anthropic prijavio pokušaj upotrebe AI sistema za razvoj raketnog oružja
Kompanija Anthropic navodi da su akteri iz sjevernog Jemena pokušali koristiti Claude za zadatke povezane s navođenjem i kontrolom raketa, ali da nema dokaza da je napravljeno operativno oružje.
Američka tehnološka kompanija Anthropic saopštila je da je otkrila pokušaj zloupotrebe svog sistema vještačke inteligencije Claude u projektu koji je, prema navodima kompanije, bio povezan s razvojem naprednog raketnog oružja. U izvještaju se navodi da su akteri iz sjevernog Jemena koristili Claude za poslove koji bi inače zahtijevali angažman softverskih inženjera, posebno u oblastima navođenja, navigacije i kontrole. Među pominjanim konceptima bili su navođena raketa, višestepena balistička raketa dometa većeg od 2.000 kilometara i raketni sistem s varijantom hipersonične jedrilice. Anthropic nije direktno naveo da iza aktivnosti stoje Huti, ali je istakao da veliki dio sjevernog Jemena kontroliše ta grupa, koja je povezana s Iranom. Prema kompaniji, korisnici su pokušavali prikriti pravu svrhu projekta i zaobići sigurnosne mehanizme tako što su zadatke dijelili u više odvojenih razgovora. Kompanija tvrdi da je više instanci Claudea korišteno istovremeno: jedna za pisanje koda, druga za istraživanje, a treća za provjeru urađenog. Takav način rada, kako navode, pokazuje da napredni AI alati mogu biti iskorišteni za tehnički složene zadatke i mimo predviđenih pravila upotrebe. Prema navodima Anthropica, nema dokaza da je grupa uspjela proizvesti operativno oružje. Kompanija ipak tvrdi da je izvedeno probno lansiranje navođene rakete koje je, po svemu sudeći, bilo neuspješno, jer su se korisnici nekoliko sati kasnije vratili sistemu pokušavajući utvrditi uzrok problema, prenosi Channel 4. Nalozi povezani s ovom aktivnošću su ugašeni, a informacije su podijeljene s partnerima iz javnog i privatnog sektora. Anthropic je saopštio da je pojačao zaštitne mjere i upozorio da slučaj ukazuje na sve veći rizik korištenja vještačke inteligencije u razvoju konvencionalnog oružja.
IZVOR: news.zimb.online