"Kockamo se našim životima": Istraživač Anthropica napustio kompaniju zbog neodgovorne utrke u razvoju AI-ja
Iskusni istraživač umjetne inteligencije koji je posljednje tri godine radio na razvoju temeljnih modela u tehnološkim kompanijama OpenAI i Anthropic podnio je ostavku, uz oštro upozorenje da vodeće laboratorije u industriji neodgovorno jure prema stvaranju superinteligentnih sistema koji bi mogli izmaći kontroli.
Iskusni istraživač umjetne inteligencije koji je posljednje tri godine radio na razvoju temeljnih modela u tehnološkim kompanijama OpenAI i Anthropic podnio je ostavku, uz oštro upozorenje da vodeće laboratorije u industriji neodgovorno jure prema stvaranju superinteligentnih sistema koji bi mogli izmaći kontroli. Jacob Coxon (27) objavio je u utorak da napušta Anthropic, navodeći da ni ta kompanija niti njen konkurent OpenAI ne postupaju odgovorno u nastojanjima da razviju naprednu umjetnu inteligenciju. "Nijedna kompanija ne postupa odgovorno. Jure pravo prema samounapređujućoj superinteligenciji i kockaju se našim životima", napisao je Coxon u nizu objava na društvenoj mreži kompanije X sa sjedištem u SAD-u. Coxon je bio specijaliziran za predtreniranje, ključnu i računarski zahtjevnu fazu obuke velikih jezičkih modela na kojima se zasnivaju proizvodi poput ChatGPT-a kompanije OpenAI i Claudea kompanije Anthropic. Njegov odlazak posljednji je u nizu ostavki istraživača usmjerenih na sigurnost koji napuštaju vodeće kompanije za razvoj umjetne inteligencije zbog etičkih i egzistencijalnih zabrinutosti. U svojoj izjavi Coxon je upozorio da ne treba potcjenjivati brzinu razvoja i sposobnosti budućih sistema umjetne inteligencije, navodeći da bi oni uskoro mogli steći sposobnost hakiranja softvera, poremetiti čitave industrije i autonomno pribavljati resurse u stvarnom svijetu. "Ljudi koji grade umjetnu inteligenciju iskreno vjeruju da bi nas ona do kraja ove decenije mogla sve pobiti. Ovo nije marketinški trik. Ako išta, mnogi rukovodioci i vodeći istraživači u javnosti će svoje izjave ublažiti kako bi zvučali razumno, ali iste te ljude privatno čujem kako izražavaju strah", rekao je Coxon. Obraćajući se kolegama istraživačima u komercijalnim laboratorijama, Coxon je pozvao zaposlenike da traže drugačije uslove i upozorio da bi usporavanje konkurentske utrke moglo zahtijevati radikalne mjere. Među mogućim mjerama naveo je sporazume između laboratorija o usklađivanju tempa razvoja, kao i privremenu zabranu daljnjeg unapređivanja sposobnosti umjetne inteligencije.
IZVOR: federalna.ba