Vodeći istraživač napustio Anthropic: AI bi nas mogao sve pobiti
Ovo nije marketinški trik. Ako išta, mnogi rukovodioci i vodeći istraživači u javnosti će svoje izjave ublažiti kako bi zvučali razumno, ali iste te ljude privatno čujem kako izražavaju strah, naveo je Coxon
Iskusni istraživač umjetne inteligencije koji je posljednje tri godine radio na razvoju temeljnih modela u tehnološkim kompanijama OpenAI i Anthropic podnio je ostavku, uz oštro upozorenje da vodeće laboratorije u industriji neodgovorno jure prema stvaranju superinteligentnih sistema koji bi mogli izmaći kontroli. Jacob Coxon (27) objavio je u utorak da napušta Anthropic, navodeći da ni ta kompanija niti njen konkurent OpenAI ne postupaju odgovorno u nastojanjima da razviju naprednu umjetnu inteligenciju. - Nijedna kompanija ne postupa odgovorno. Jure pravo prema samounapređujućoj superinteligenciji i kockaju se našim životima, napisao je Coxon u nizu objava na društvenoj mreži kompanije X. Coxon je bio specijaliziran za predtreniranje, ključnu i računarski zahtjevnu fazu obuke velikih jezičkih modela na kojima se zasnivaju proizvodi poput ChatGPT-a kompanije OpenAI i Claudea kompanije Anthropic. Njegov odlazak posljednji je u nizu ostavki istraživača usmjerenih na sigurnost koji napuštaju vodeće kompanije za razvoj umjetne inteligencije zbog etičkih i egzistencijalnih zabrinutosti, prenosi Anadolija. U svojoj izjavi Coxon je upozorio da ne treba potcjenjivati brzinu razvoja i sposobnosti budućih sistema umjetne inteligencije, navodeći da bi oni uskoro mogli steći sposobnost hakiranja softvera, poremetiti čitave industrije i autonomno pribavljati resurse u stvarnom svijetu. - Ljudi koji grade umjetnu inteligenciju iskreno vjeruju da bi nas ona do kraja ove decenije mogla sve pobiti. Ovo nije marketinški trik. Ako išta, mnogi rukovodioci i vodeći istraživači u javnosti će svoje izjave ublažiti kako bi zvučali razumno, ali iste te ljude privatno čujem kako izražavaju strah, rekao je Coxon. Obraćajući se kolegama istraživačima u komercijalnim laboratorijama, Coxon je pozvao zaposlenike da traže drugačije uslove i upozorio da bi usporavanje konkurentske utrke moglo zahtijevati radikalne mjere. Među mogućim mjerama naveo je sporazume između laboratorija o usklađivanju tempa razvoja, kao i privremenu zabranu daljnjeg unapređivanja sposobnosti umjetne inteligencije.
IZVOR: oslobodjenje.ba