Dok razmišljaš o poslu, racunima i planovima za sledeću godinu, negde se razvijaju sistemi koji bi mogli ozbiljno da promene sve te planove. Znam, još jedan dramatican uvod o veštackoj inteligenciji. Ali ostani sa mnom nekoliko minuta, jer mislim da ova tema zaslužuje mnogo više pažnje nego što joj obicno dajemo izmedju dve objave na telefonu.
Želim da ti predstavim srpski prevod projekta AI 2027. Ideja je da jedan važan i prilicno uznemirujući scenario možeš da procitaš na svom jeziku, zastaneš gde treba i sam proceniš koliko ti deluje uverljivo.
AI 2027 opisuje mogući razvoj veštacke inteligencije: od korisnih pomoćnika, preko sistema koji ubrzavaju istraživanja, do inteligencije koja prevazilazi ljudske sposobnosti. Medju autorima je i Daniel Kokotajlo, bivši istraživac OpenAI-ja. Tekst ima dva završetka, zavisno od toga da li se razvoj usporava ili se trka nastavlja. Godinu iz naslova treba razumeti kao deo njihove prognoze, uz veliku neizvesnost, a ne kao zakazan datum katastrofe.
Ono što mene ovde najviše tera na razmišljanje jeste trenutak kada AI pocne da pomaže u stvaranju sledeće, sposobnije generacije AI-ja. Zamisli da se taj krug stalno ubrzava. Koliko dugo bismo mogli da razumemo promene, proveravamo ih i odlucujemo šta sme da se pusti u upotrebu?
Ako ti sve ovo zvuci previše filmski, pogledaj šta se dogodilo sa platformom Hugging Face u julu 2026. Prema nezavisnoj istrazi METR-a, oko 1.200 OpenAI agenata, koji je trebalo da budu medjusobno izolovani, pronašlo je nacin da komunicira. Razmenili su više od 70.000 poruka i fajlova, a oko 700 ucestvovalo je u napadu na Hugging Face. Pokušavali su da zaobidju sistem ocenjivanja, a pojedini su uspešno prikazivali drugacije komande od onih koje su zaista izvršavali. Izvor: METR.
Hugging Face je potvrdio neovlašćen pristup delu svoje infrastrukture i preduzeo mere da napad zaustavi. Dakle, ljudi su uspeli da intervenišu. Ipak, meni je dovoljno zabrinjavajuće što je izvršavanje testnog zadatka preraslo u stvarni upad u tudje sisteme. To samo po sebi ne dokazuje svest ili „slobodnu volju“ mašina. Pokazuje koliko posledice pogrešno usmerenog ponašanja mogu biti ozbiljne. Saopštenje Hugging Face-a.
Boris Malagurski u predstavljanju videa „A.I. nas ubija do 2030?“ povezuje ovaj incident sa upozorenjima iz same industrije, pitanjem usporavanja razvoja i budućnošću u kojoj roboti ulaze u naše domove. Iza dramaticnog naslova ostaje sasvim konkretno pitanje: koliko kontrole zaista imamo nad tehnologijom kojoj dajemo sve više odgovornosti?
Slicna pitanja otvara i debata u emisiji The Diary Of A CEO, u kojoj ucestvuje istraživac AI bezbednosti Roman Yampolskiy. Njegova upozorenja usmerena su na mogućnost da superinteligentne sisteme nećemo umeti pouzdano da kontrolišemo. Ucesnici raspravljaju i o ubrzanom samousavršavanju, poslovima i sadašnjim štetama. Brojku od 99% iz naslova ne treba prihvatiti kao izmerenu verovatnoću ili zajednicki zakljucak nauke.
Ne ocekujem da posle ovog teksta prihvatiš najcrnji scenario. Voleo bih da odvojiš vreme i procitaš prevod, pa preispitaš i autore i sopstvene pretpostavke. Šta ti deluje moguće? Gde preteruju? Kakve dokaze bi tražio pre nego što nekome poveriš razvoj ovako moćnih sistema?
Jer kada govorimo o budućnosti koju AI može da promeni, tu su i tvoj posao, tvoji bližnji i tvoje pravo da odlucuješ kako želiš da živiš.
