Anthropic otkrio kako je AI korišten za razvoj raketa
VAŠINGTON - Američka kompanija Anthropic saopštila je da je otkrila grupu aktera iz sjevernog Jemena koja je pokušavala da koristi njen sistem vještačke inteligencije Claude za razvoj naprednog oružja, uključujući navođenu raketu, višestepenu balističku raketu dometa većeg od 2.000 kilometara i raketni sistem sa varijantom hipersonične jedrilice.
VAŠINGTON - Američka kompanija Anthropic saopštila je da je otkrila grupu aktera iz sjevernog Jemena koja je pokušavala da koristi njen sistem vještačke inteligencije Claude za razvoj naprednog oružja, uključujući navođenu raketu, višestepenu balističku raketu dometa većeg od 2.000 kilometara i raketni sistem sa varijantom hipersonične jedrilice. Claude umjesto softverskih inženjera Iako Anthropic nije izričito naveo da su iza aktivnosti bili Huti, veliki dio sjevernog Jemena kontroliše ova grupa povezana sa Iranom, dok je kompanija utvrdila da su korisnici Claude Code koristili umjesto ljudskih softverskih inženjera za razvoj softvera za navođenje, navigaciju i kontrolu raketa. Akteri su istovremeno koristili više instanci Claudea, dodjeljujući jednoj pisanje koda, drugoj istraživanje, a trećoj provjeru urađenog posla, dok su pokušavali da zaobiđu zaštitne mehanizme skrivajući stvarnu namjenu projekta i dijeleći zadatke kroz više odvojenih razgovora. Test rakete završio neuspjehom Anthropic navodi da nema dokaza da je grupa uspjela da napravi operativno oružje, ali je izvela probno lansiranje navođene rakete koje je, prema svemu sudeći, bilo neuspješno, jer su se korisnici samo nekoliko sati kasnije vratili Claudeu pokušavajući da utvrde šta je pošlo po zlu navodi channel4. Kompanija je ugasila naloge povezane sa ovom operacijom, podijelila informacije sa partnerima iz javnog i privatnog sektora i pojačala zaštitne mehanizme, upozoravajući da slučaj pokazuje rastući rizik od korištenja napredne vještačke inteligencije u razvoju konvencionalnog oružja.
IZVOR: nezavisne.com