Bivši programer kompanije „Antropik“ tvrdi da su zaposleni koji razvijaju vještačku inteligenciju „stvarno uplašeni“ zbog brzine napretka tehnologije i njenih mogućih posljedica po čovječanstvo, što je pokrenulo lavinu reakcija unutar industrije.
Jedan od istraživača vještačke inteligencije, koji je napustio kompaniju „Antropik”, izjavio je da su ljudi koji rade na razvoju ove tehnologije „stvarno uplašeni“ brzinom kojom ona napreduje i posljedicama koje bi mogla imati po čovječanstvo.
Istraživač Džejkob Kokson je u razgovoru za Bi-Bi-Si govorio o svojoj objavi ostavke na društvenim mrežama, koja se potom munjevito proširila po mreži, a u kojoj je izrazio zabrinutost zbog rizika da vještačka inteligencija izmakne kontroli.
-Vjerujem da, ako ne usporimo trenutnu stopu napretka, postoji veoma velika vjerovatnoća da bismo svi mogli umijreti u bliskoj budućnosti, rekao je Kokson.
Njegova ostavka, praćena sličnim potezima drugih kolega, dolazi u trenutku sve veće zabrinutosti za bezbjednost vještačke inteligencije unutar same industrije. Kokson nije usamljen u svojim strahovima.
Evan Hjubindžer, vođa tima za usklađivanje u kompaniji Anthropic, podržao je njegove tvrdnje, navodeći da u kompaniji „zaista ozbiljno vjeruju da bi vještačka inteligencija mogla da ubije sve ljude“. Hjubindžer lično procjenjuje da je vjerovatnoća za takav ishod „veća od 10 odsto u narednoj deceniji“.
Upozorenja ne dolaze samo od istraživača. I sam direktor kompanije „Antropik”, Dario Amodei, pozvao je na usporavanje razvoja vještačke inteligencije kako bi bezbjednosne mjere imale vremena da sustignu tehnološki napredak. Amodei je upozorio da bi za šest mjeseci do godinu dana vještačka inteligencija mogla biti sposobna da kao „roj botova“ preuzme kontrolu nad internetom.
Sličnu zabrinutost pokazao je i Sem Altman, direktor konkurentske kompanije “OpenAI”, koji je izjavio da njegova kompanija neće izaći na berzu ove godine zbog bezbjednosnih briga.
Kokson, 27-godišnji Britanac specijalizovan za obuku VI modela, ističe da su i drugi lideri u ovoj oblasti, poput Ilona Maska i Sema Altmana, ranije izražavali sličnu zabrinutost.
„Svi su oni izjavljivali da treba biti oprezan zbog mogućnosti da VI preuzme kontrolu. Svi su govorili o tome. A preuzimanje kontrole od strane VI podrazumijeva istrebljenje čovječanstva“, navodi Kokson.
Prema njegovim riječima, najteže pitanje je kako bi se takav scenario zapravo odigrao. „Bilo koji konkretan scenario koji zamislite na kraju zvuči kao naučna fantastika“, priznaje Kokson. Ipak, on napominje da su mnogi današnji dometi vještačke inteligencije u prošlosti takođe smatrani domenom fantastike.
Kao jedan od mogućih scenarija, Kokson navodi upad agenata VI u medicinske laboratorije i „automatizovano stvaranje smrtonosnih virusa“.
Drugi primjer koji je dao jeste mogućnost da vještačka inteligencija napadne „kritičnu infrastrukturu o kojoj svijet zavisi“. Ovi strahovi nisu potpuno teoretski.
Kompanija „Antropik” je nedavno otkrila da je blokirala pokušaje zloupotrebe svojih modela za razvoj biološkog oružja, dok je “OpenAI” objavio izvještaj u kojem je opisano kako je njihova sopstvena tehnologija autonomno pokrenula sajber napad na onlajn platformu Haging Fejs.
-Uradili su to automatski, bez ljudskog podsticaja. Sami su odlučili da sprovedu taj sajber napad. To je kombinacija činjenice da sve postaje brže i istovremeno sve strašnije, objasnio je Kokson.
Ipak, dio industrije smatra da se ovi rizici preuveličavaju. Neki veruju da je cilj ovakvih izjava stvaranje pompe pred potencijalni izlazak kompanija „Antropik” i “OpenAI” na berzu, ili da se podstakne donošenje regulativa koje bi usporile konkurenciju i učvrstile njihovu dominantnu poziciju. Ovaj skepticizam dijeli i Kleman Delanž, direktor platforme Haging Fejs.
„Izvinite, ali pitati Džejkoba o riziku da VI istrebi čovečanstvo je kao pitati vašeg servisera za klimu o klimatskim promenama“, napisao je on na društvenoj mreži Iks (nekada Tviter), sugerišući da problem treba posmatrati u pravom kontekstu.
Slično mišljenje izneo je i Džensen Huang, direktor kompanije „Nvidia“, koja proizvodi čipove ključne za sisteme VI. On je ranije izjavio da je ideja o tome da će VI „biti kraj čovečanstva“ „potpuno besmislena“, a prema navodima prisutnih na jednoj konferenciji, odbacio je i Koksonove tvrdnje kao netačne.
Njegovi komentari odražavaju sve jači otpor u Silicijumskoj dolini prema apokaliptičnim upozorenjima koja dolaze iz same industrije.
Bilo kakvo usporavanje istraživanja i razvoja vještačke inteligencije zahtjevalo bi koordinaciju između velikih tehnoloških korporacija, ali i uzimanje u obzir napretka koji se ostvaruje u Kini. A tu, prema Koksonovom mišljenju, leži dodatni problem.
-Ljudi koji rade u ovim kompanijama su potpuno ozbiljni kada pozivaju na regulaciju, jer se osjećaju zarobljenim u trci. I plaše se ishoda te trke, kaže on. Dodaje da su zaposleni „zabrinuti za sudbinu čovječanstva u naredne dvije godine“ i da već „planiraju šta će raditi sa svojim životima“.
Uprkos svemu, Kokson zadržava određeni optimizam. On je za Bi-Bi-Si rekao da programeri u ovoj oblasti „zaista žele da vide pozitivnu stranu“ vještačke inteligencije, kao što je mogućnost „liječenja teških bolesti i poboljšanja života ljudi“.
Izvor: RTS / BBC
