O nama
Scenario AI 2027 je prvo veliko izdanje organizacije AI Futures Project. Mi smo nova neprofitna organizacija koja prognozira budućnost AI. Ovaj sajt napravili smo u saradnji sa Lightcone Infrastructure.
Get in touch
You can reach us at info@ai-futures.org. We look forward to hearing from you.
If you would like to run our tabletop exercise (or have us run it for you), please fill in this form.
If you would like to get involved in steering toward a positive AGI future, we've written a blog post on What you can do about AI 2027.
If you are interested in working with us, see our available positions.
We accept donations online or through major DAF providers (EIN 99-4320292, AI Futures Project Inc, previously named Artificial Intelligence Forecasting Inc).
Naš tim
Daniel Kokotajlo, izvršni direktor: Daniel nadgleda naša istraživanja i preporuke za javne politike. Ranije je u kompaniji OpenAI istraživao upravljanje AI i radio na planiranju scenarija. Kada je napustio OpenAI, pozvao je na veću transparentnost vodećih AI kompanija. Godine 2021. napisao je Kako izgleda 2026., prognozu AI scenarija za period 2022–2026, koja se dobro pokazala. Pogledajte i njegov profil Time100 AI za 2024..
Eli Lifland, rukovodilac istraživanja: Eli se bavi prognoziranjem scenarija i specijalizovan je za predviđanje sposobnosti AI. Takođe je suosnivač i savetnik projekta Sage, koji razvija interaktivna objašnjenja AI. Ranije je radio na projektu Elicit, istraživačkom asistentu zasnovanom na AI, i učestvovao u stvaranju projekta TextAttack, Python okvira za adversarijalne primere u tekstu. Zauzima prvo mesto na RAND Forecasting Initiative rang-listi svih vremena.
Thomas Larsen, rukovodilac istraživanja: Thomas se bavi prognoziranjem scenarija, sa naglaskom na razumevanje ciljeva AI agenata i njihovih posledica u stvarnom svetu. Ranije je osnovao Center for AI Policy, organizaciju koja se zalaže za bezbednost AI, i istraživao bezbednost AI u Machine Intelligence Research Institute.
Romeo Dean, istraživač: Romeo je specijalizovan za prognoziranje proizvodnje i korišćenja AI čipova. Diplomirao je sa pohvalom na Harvardu, istovremeno završivši master iz računarstva, uz istraživački fokus na bezbednost i hardver. Ranije je bio istraživač AI politika u Institutu za AI politiku i strategiju.
Lauren Mangla, operativna direktorka: Lauren se bavi komunikacijama, odnosima s medijima, zapošljavanjem i simulacionim vežbama, a vodi i operativni tim. Ranije je u organizaciji Constellation — centru za istraživanje bezbednosti AI — donosila strateške odluke o članstvu i događajima. Pre toga bila je izvršna direktorka programa za nadzirano istraživanje usklađenosti (SPAR), stipendijskog programa za bezbednost AI. Bila je i na praksi u NASA-i i u oblasti javnih politika i gradske uprave Njujorka.
Doprinosi
Daniel Kokotajlo, Eli Lifland, Thomas Larsen i Romeo Dean napisali su scenario i njegove završetke. AI 2027 oslanja se na iskustvo iz više od deset simulacionih vežbi sa stotinama različitih učesnika. Jonas Vollmer davao je povratne informacije tokom celog procesa i pomagao u izvođenju vežbi i izradi sajta.
Oliver Habryka, Rafe Kennedy i Raymond Arnold iz Lightcone Infrastructure izradili su i dizajnirali sajt. Scott Alexander dobrovoljno je preoblikovao naš tekst u zanimljiviji stil; zabavni delovi teksta su njegovi, a dosadni naši.
FutureSearch obezbedio je nezavisne prognoze za naša istraživanja rokova razvoja, ubrzani razvoj AI, i prihoda . Hvala Tomu Liptayu, Finnu Hamblyju, Sergiju Abrioli i Tolgi Bilgeu na prognozama.
Veliko hvala svima koji su komentarisali ranije nacrte scenarija i sajta; posebno Lisi Thiergart i Davidu Abecassisu za ideje i povratne informacije još u ranoj fazi. David je napisao alternativnu granu scenarija, koju možete videti ovde. Hvala i Nikoli Jurkovicu na koautorstvu prognozu rokova razvoja, kao i Jasonu Hausenloyu za pomoć u različitim delovima procesa.
Tokom pisanja, stotine ljudi pregledale su tekst. Neki su pristali da im poimenično zahvalimo na sajtu. Hvala svima njima:
Ada Lin, Adam Binksmith, Aidan O'Gara, Ajeya Cotra, Alice Schwarze, Alvin Ånestrand, Andreas Stuhlmüller, Anton Korinek, Aryan Bhatt, Augene Park, Ben Hayum, Ben Hoskin, Buck Shlegeris, Carl Shulman, Caroline Jeanmaire, Cheryl Luo, Coby Joseph, Daan Juijn, David Kasten, Evan R. Murphy, Gary Marcus, George Adamopoulos, Gretta Duleba, Harrison Durland, Helen Toner, Holden Karnofsky, Ilene and John Pachter, Jack Morris, Jacob Lagerros, James Campbell, Jeffrey Wu, Joe Carlsmith, John-Clark Levin, Jonathan Happel, Jonathan Mann, Joseph Rogero, JS Denain, Julian Hazell, Jun Shern Chan, Ken Lifland, Kendrea Beers, Kyle Scott, Laura King, Lukas Finnveden, Lukas Gloor, Malo Bourgon, Matt Chessen, Matthew Kenney, Mauricio Baker, Miles Brundage, Nate Foss, Neel Nanda, Nicky Case, Nikola Jurkovic, Nuño Sempere, Ollie Stephenson, Oscar Delaney, Peter Hartree, Ramana Kumar, Richard Ngo, Rishi Gupta, Rose Hadshar, Rosie Campbell, Ryan Greenblatt, Sam Bowman, Samuel Hammond, Sebastian Schmidt, Siméon Campos, Sören Mindermann, Steve Newman, Steven Adler, Thomas Woodside, Tim Fist, Tolga Bilge, William MacAskill, Yoshua Bengio, Zershaaneh Qureshi, Zvi Mowshowitz.
Update August 2025: We are no longer accepting bets and bounties submissions.
We encourage you to debate and counter this scenario. We hope to spark a broad conversation about where we’re headed and how to steer toward positive futures. To incentivize this, we’re announcing the bets and bounties program:
If you find an error in our work we’ll pay you $100.
If you change our mind on an important forecast such that we would have written the scenario substantially differently, we'll pay you at least $250.
If you disagree about a forecast, we’d love to find a bet.
If you can write a high-quality alternative scenario, we’ll pay you $2,500. Example past alternative scenarios that would meet our bar include How AI Might Take Over in 2 Years, A History of The Future, i AI and Leviathan.
More information can be found ovde.
Razvili smo i sproveli više od 30 verzija simulacione vežbe (TTX) koja simulira razvoj AGI. Pomogla je nama, kao i mnogim učesnicima, da bolje razmislimo o mogućem toku razvoja AGI. Učestvovali su, između ostalih, istraživači iz kompanija OpenAI, Anthropic i Google DeepMind, saradnici članova Kongresa i novinari.
TTX počinje u aprilu 2027. u naš scenario. Američka AGI kompanija upravo je napravila nadljudskog programera. Kina joj je za petama i uspela je da ukrade parametre AI modela, što joj omogućava da pokrene sopstvenu verziju. Istraživanje se u kompanijama obe strane znatno ubrzava.
Počinjemo od tog trenutka jer je to poslednji period našeg scenarija koji nam deluje iole blizu pouzdane prognoze. Malo je verovatno da će vlade značajno intervenisati pre nego što neko napravi automatizovanog istraživačkog inženjera, da će bezbednost bilo koje AGI kompanije uskoro postati dovoljna da zaustavi Kinu, a trka u AGI deluje sve neizvesnije. Posle aprila 2027, međutim, velike vlade razmatraće ekstremne poteze.
Svaka TTX vežba je drugačija. Većina se završi razvojem superinteligencije. Ponekad vlade ne reaguju i prepuste moć vodećoj kompaniji. Ponekad AGI sledi ljudske namere, a ponekad je neusklađen. Sajbernapadi su uvek prisutni, ponekad dolazi do invazije na Tajvan, a u nekoliko slučajeva i do eskalacije u puni Treći svetski rat.
If you would like to run this exercise (or have us run it for you), please fill in this form. The exercise takes 4 hours and works for 8–14 people.
Istorija izmena
Izmene naših scenarija i istraživanja od prvog objavljivanja.
Jul 2026.
7. jul
Fusnota 75 ispravljena je za jedan red veličine. 100 miliona zamenjeno je sa 10 miliona H100-ekvivalenata, pa je i broj FLOP/s promenjen sa 4e22 na 4e21.
U fusnoti 75, „ljudski mozak koristi približno 1e15 FLOP/s računske snage“ zamenjeno je sa „ljudski mozak koristi približno 1e15 FLOP/s računske snage (mada taj broj može dosezati 1e21 FLOP/s)“, jer navedeni izvor predstavlja 1e15 kao grubu procenu, sa rasponom od nekoliko redova veličine.
U fusnoti 46, „Ove aktivne parametre skaliramo faktorom sqrt(1000) da bismo procenili 10 biliona aktivnih parametara za Agent-2“ zamenjeno je sa „Ove aktivne parametre skaliramo faktorom sqrt(1000) da bismo procenili ~6,3 biliona aktivnih parametara za Agent-2“.
U fusnoti 75, „(delovi od ~100 GB za kontrolnu tačku polupreciznosti od ~2,5 TB)“ zamenjeno je sa „(delovi od ~100 GB za kontrolnu tačku od ~3 TB)“, na osnovu ažurirane procene parametara iz prognoze računarskih kapaciteta (fusnota 46).
Kao odgovor na prijavu greške, rečenici „bilo bi dosledno da i Kina pokrene državno podržan napor da dostigne WSL3“ dodata je fusnota: „Posle objavljivanja, Rohin Shah ukazao je da naš model predviđa da DeepCent dostigne WSL3 krajem 2026, malo pre početka 2027. koji scenario podrazumeva, po kome Kina jača zaštitu parametara nakon preseljenja istraživača u mrežno izolovan CDZ. Slažemo se da je početak 2027. dosledniji, ali razlika je mala, pa grafikone nismo menjali.“
Mart 2026.
5. mart
Na slici ključnih pokazatelja za 2026, godišnji prihod OpenBraina od 45 milijardi dolara (zasnovan na starim godišnje preračunatim prihodima, pa neusaglašen sa bočnim panelom) promenjen je na 35 milijardi dolara.
2. mart
Pojašnjenje koje počinje sa „(Dodato 22. novembra 2025, radi sprečavanja nesporazuma“ premešteno je iz predgovora na kraj odeljka „Šta je ovo?“.
Februar 2026.
25. februar
Sve ispravke su veoma male i nalaze se u proširivim okvirima i istraživačkim dodacima, a ne u glavnom tekstu scenarija.
Januar 2026.
27. januar
U fusnoti 3, „Konkretno, naše medijane bile su od 2028. do 2035.“ zamenjeno je sa „Konkretno, naše medijane bile su od 2028. do 2032.“ Godina 2035. bila je zasnovana na pogrešnom razumevanju stava jednog koautora u trenutku objavljivanja.
26. januar
U predgovoru, „Za naše ažurirane stavove iz decembra 2025. pogledajte ovde“ zamenjeno je sa „Za naše najnovije prognoze pogledajte ovde“. Promenom URL-a stranica sada sadrži i Danielove i Elijeve prognoze, dok je ranije sadržala samo Elijeve.
21. januar
„Dodato 22. novembra 2025: Da ne bi bilo nesporazuma: ne znamo“ zamenjeno je sa „Dodato 22. novembra 2025, radi sprečavanja nesporazuma: ne znamo“.
19. januar
Pri prelasku pokazivačem preko neto podrške na bočnom panelu dodat je tekst: „Dodato januara 2026: Navodimo da OpenBrain u aprilu 2025. ima neto podršku od −25%, ali sada mislimo da je bila bliža +15%, pa su naše procene bile preniske.“ Prvobitno smo koristili pitanje iz ove ankete o podršci kompaniji OpenAI, ali su ispitanicima pre pitanja saopštene negativne stvari o njenom ponašanju u vezi sa bezbednošću. Zato to nije tačan prikaz stavova ljudi bez prethodnog usmeravanja. U međuvremenu je ova manje sugestivna anketa pokazala podršku OpenAI od +17%.
7. januar
Jonas Vollmer zamenjen je sa Lauren Mangla.
5. januar
„Za više detalja o našim stavovima pogledajte ovde.“ zamenjeno je sa: „Za naše ažurirane stavove iz decembra 2025. pogledajte ovde.“ Fusnota 3 takođe je premeštena na kraj prethodne rečenice. Druga rečenica fusnote 3 izmenjena je u: „Pogledajte ovde za više informacija o tome u šta smo bili/jesmo sigurni, a u šta nismo.“ (U prvoj rečenici „premestili smo“ zamenjeno je sa „dodali smo pojašnjenje“.)
Decembar 2025.
31. decembar
Na početak obe prognoze dodato je: „Ažuriranje od 31. decembra 2025: Objavili smo prerađen model rokova razvoja i ubrzanog razvoja AI na aifuturesmodel.com."
19. decembar
„Ministarstvo odbrane (DOD) tiho počinje da ugovara poslove sa OpenBrainom…“ zamenjeno je sa „Ministarstvo odbrane (DOD) tiho, ali značajno počinje da povećava obim ugovaranja“.
Tvrdnji „ako bude potrebno, vlada bi mogla da primeni Zakon o odbrambenoj proizvodnji (DPA) da uzme centre podataka kompanija koje zaostaju i preda ih OpenBrainu“ dodata je fusnota: „Nismo pravni stručnjaci, a stručnjaci za javne politike sa kojima razgovaramo podeljeni su oko zakonitosti korišćenja DPA za objedinjavanje računarskih kapaciteta: neki smatraju da je dopušteno, drugi da ne bi prošlo. Mislimo da verovatno postoji način da to uspe AKO direktori kompanija sarađuju, a možda i ako ne sarađuju. Važno je da (a) izvršna vlast može jednostavno da preduzme korake i sačeka da sudovi kasnije reaguju i (b) predsednik SAD ima mnogo sredstava pritiska i podsticaja prema velikim tehnološkim kompanijama i može ih kombinovati kako bi naveo direktore na saradnju i, recimo, sprečio osporavanje naloga pred sudom. Podsećamo da ovde dajemo prognoze, a ne preporuke.“
Tvrdnji „Gigafactory Shanghai ima površinu od 4,5 miliona kvadratnih stopa“ dodata je fusnota: „Broj od 4,5 miliona zasnivao se na početnoj veličini prve faze, ali Gigafactory Shanghai je sada približno dvostruko veći. Zato je naša procena bila manja za faktor 2, mada i dalje smatramo da opšti zaključak važi.“
Tekst u ovom proširivom odeljku promenjen je sa: „Krađu parametara zamišljamo kao niz koordinisanih malih brzih krađa (brzih, ali neprikrivenih)… (od prvog kompromitovanja servera do potpunog iznošenja parametara) završava se za manje od dva sata.“ u: „Krađu parametara zamišljamo kao niz koordinisanih malih brzih krađa (brzih, ali neprikrivenih) na nizu Nvidia NVL72 GB300 servera koji izvršavaju kopije parametara sistema Agent-2. Serveri se kompromituju legitimnim pristupom zaposlenog (saučesnika, ucenjenog ili nesvesnog insajdera sa administratorskim pristupom, koji pomaže naporima KPK). Insajderski pristupni podaci napadaču daju administratorska ovlašćenja. Mikroarhitektonskim bočnim kanalom napadač izvlači ključeve za šifrovanje iz virtuelne mašine sa uključenim Nvidia Confidential Computing, što mu omogućava da presretne parametre modela tokom postavljanja ili ažuriranja virtuelne mašine. Pokreću rutinsko ažuriranje (ili ga čekaju) i iznose kontrolnu tačku u mnogo malih delova: npr. ~25 servera od kojih svaki odaje ~4% modela (delovi od ~100 GB za kontrolnu tačku polupreciznosti od ~2,5 TB). Izlazni protok celog centra podataka je reda 100 GB/s, pa ograničavanje na manje od ~1 GB/s po serveru izbegava veliki skok saobraćaja; tim tempom svaki deo od ~100 GB može napustiti centar za nekoliko minuta. Nadzor uživo ili biva zavaran maskiranjem i deljenjem prenosa, ili je potpuno isključen. Parametri se zatim različitim paralelnim kanalima i slojevima maskiranja IP adresa šalju u Kinu, gde se lokalno dešifruju ukradenim ključem/ključevima sesije. Ceo aktivni deo operacije, od prvog kompromitovanja servera do potpunog iznošenja parametara, završava se za manje od dva sata.“ Na kraj prvog pasusa dodata je fusnota: „Hvala Tjadenu Hessu što je ukazao na greške u ranijoj verziji i time pomogao da opis bude realističniji.“
16. decembar
- Ukloniti / označiti neoznačeni mali deo grafikona za 2027. na slici 15 kao „Ostatak Kine“? - Promeniti „Ostatak Mete“ na slici 15 na 2 miliona, u skladu sa stavkama između grafikona i slikom 16. - Promeniti „Ostatak Googlea“ na slici 15 na 2 miliona, u skladu sa stavkama između grafikona i slikom 16. - Promeniti udeo Anthropicovog računarskog kapaciteta za 2027. u prvoj stavci sa 11% na 14%, a za xAI na „sa 2% na 9%“, … - Ukupan kapacitet na slici 15 tada treba da iznosi 99 miliona, što je uz zaokruživanje saglasno sa tabelom u odeljku 1: ukupno raspoloživi H100e u 2027. iznosi 100 miliona, a ne 107 miliona.
Prognozi računarskih kapaciteta dodata je fusnota 14 koja pojašnjava razliku između trendova performansi i efikasnosti čipova (koji se slučajno poklapaju). Nova fusnota 14: „To se može izračunati preuzimanjem istorijskih podataka organizacije Epoch, deljenjem performansi FP16 i FP32 površinom silicijumskog jezgra iz podataka o ML hardveru i prikazivanjem trenda. Ja (Romeo) sam prvobitno odokativno sagledao približno ravan trend površine jezgra i trend performansi čipova, pretpostavio da je i to 1,35 puta godišnje i zaboravio da precizno proverim. Od decembra 2025, zahvaljujući Robiju Rahmanu koji je na ovo ukazao u ovu objavu na X-u Konačno sam to precizno proverio i utvrdio da je i za najvažnije i najduže korišćene formate preciznosti rast iznosio tačno 1,35× godišnje. Više objašnjenja i grafikona nalazi se u ovom odgovoru na X-u."
12. decembar
U proširivom odeljku „Zašto predviđamo nadljudskog programera početkom 2027.“ dodat je razmak koji je nedostajao u „razvijeno(dodato decembra 2025...“
Grafikon trenda vremenskog horizonta u proširivom odeljku „Zašto predviđamo nadljudskog programera početkom 2027.“ izmenjen je u skladu sa problemima razmotrenim u našem odgovoru na titotalovu kritiku. Dodali smo i objašnjenje: „(dodato decembra 2025: ažurirali smo grafikon ispod zbog greške u načinu na koji je prvobitna kriva generisana, kako bismo dodali stvarnu putanju iz našeg modela rokova. Dodali smo i putanje za Danijelove i Elijeve medijane dolaska SC-a, uzimajući sve u obzir, u trenutku objavljivanja (april 2025). Dodali smo i neke nove METR-ove tačke podataka na grafikon, ali na osnovu njih nismo ažurirali putanje modela.)“ Dodali smo i napomenu koja pojašnjava procene uzimajući sve u obzir: „(dodato decembra 2025: mada, kao što je navedeno u prognozu rokova razvoja, prilagođavanje faktorima izvan modela dalo nam je nešto kasnije medijane; na primer, Elijeva je bila 2030).“
4. decembar
Unete su izmene opisane u našem odgovoru na titotalovu kritiku.
Novembar 2025.
22. novembar
U predgovor je dodat ovaj pasus: („Dodato 22. novembra 2025: Da bismo izbegli nesporazume: ne znamo tačno kada će AGI biti razvijen. U trenutku objavljivanja 2027. je bila naša modalna (najverovatnija) godina, a naše medijane bile su nešto kasnije. Više detalja o našim stavovima potražite u ovde.)“ Dodata je i fusnota 3, na kraju rečenice: „Konkretno, naše medijane kretale su se od 2028. do 2035. Kada je AI 2027 prvi put objavljen, ovo smo objasnili u fusnoti 1, kao što je gore navedeno, ali smo to premestili u tekst predgovora kako bi naši stavovi bili jasniji. Radimo na sajtu na kom ćemo pratiti i objašnjavati naše procene rokova razvoja AI, uzimajući sve u obzir, kako se budu menjale tokom vremena; ovde ćemo dodati link kada bude spreman.“ Uklonili smo fusnotu uz naslov AI 2027 jer smo dodali ovaj pasus i fusnotu.
Septembar 2025.
7. septembar
Dodati zarezi u „Ažuriranje od 7. maja 2025: Eli je, na osnovu povratnih informacija, napravio...“
Avgust 2025.
23. avgust
Add to About page: "Update August 2025: We are no longer accepting bets and bounties submissions."
22. avgust
„2 puta“ je promenjeno u „10 puta“ u: „Iz neformalne Anketa na Twitteru u vezi sa povećanjem brzine zahvaljujući dvostruko većem računarskom kapacitetu...“
18. avgust
5. avgust
Add "Watch" link above the scenario text, linking to this YouTube video.
Jul 2025.
28. jul
Uz gornji desni ugao naslova „AI 2027“ dodata je sledeća fusnota, sa istim tekstom kao originalna fusnota 1: „Naši stavovi o rokovima razvoja AI donekle se razlikuju; naša medijana datuma dolaska AGI-ja nešto je kasnija od one prikazane u ovom scenariju. Ovaj scenario prikazuje nešto nalik našem modusu. Pogledajte našu prognozu rokova razvoja za više detalja.“
7. jul
Prethodno smo nedosledno koristili „US“ i „U.S.“
„...čak i ako neke elite imaju više mnogo moći od drugih ljudi.“ promenjeno je u „...čak i ako neke elite imaju mnogo više moći od drugih ljudi.“
Replace the paragraph on getting involved with: "If you would like to get involved in steering toward a positive AGI future, we've written a blog post on What you can do about AI 2027."
2. jul
Tekst na dnu grafikona dodatno je izmenjen i sada glasi: „Prognoza: udvostručavanja se mogu ubrzati zato što je na dužim vremenskim skalama potrebno manje novih veština i zbog automatizacije istraživanja i razvoja AI. Zelena kriva je u suštini pojednostavljena verzija celokupnog modela rokova AI 2027. U trenutku objavljivanja AI 2027, naš puni model nije tako dobro rekonstruisao prethodne tačke podataka kao ova kriva. Od jula 2025. radimo na ažuriranjima.“
1. jul
Izmene grafikona trenda vremenskog horizonta u proširivom odeljku „Zašto predviđamo nadljudskog programera početkom 2027.“: - Ispravljen vremenski horizont modela Claude 3.7 Sonnet. - Dodata METR-ova linija trenda. - Na vrhu grafikona pojašnjeno da se vremenski horizont odnosi na stopu uspeha od 80%. - Tekst na dnu izmenjen u „Prognoza: udvostručavanja se mogu ubrzati zato što je na dužim vremenskim skalama potrebno manje novih veština i zbog automatizacije istraživanja i razvoja AI. Trend je u suštini pojednostavljena verzija celokupnog modela rokova AI 2027. (Dodato jula 2025: U trenutku objavljivanja AI 2027, naš puni model nije tako dobro rekonstruisao prethodne tačke podataka kao ova kriva. Radimo na ažuriranjima.)“ Dodat je pasus o majskom ažuriranju prognoze rokova: „Dodato jula 2025: Uneli smo neke izmene u prognozu koje pomeraju medijanu za godinu i po kasnije, dok SC u 2027. ostaje ozbiljna mogućnost. Radimo na dodatnim ažuriranjima.“
Jun 2025.
27. jun
„Takav je napredak sposobnosti u našem scenariju:“ promenjeno je u: „Otprilike takav je napredak sposobnosti u AI 2027. Ovde je prikazana putanja sposobnosti koju generiše pojednostavljena verzija našeg modela rokova:“
23. jun
FLOPS je promenjeno u FLOP, a broj tačaka za Agent-1 preciznije je prikazan
5. jun
Dodata su ograničenja analize multiplikatora napretka SC-a, počevši od „Nekoliko ograničenja ove analize:“, i to: - Ne uzimamo u obzir da bi nadljudski programer donekle pomogao i pri izboru eksperimenata, što upućuje na višu vrednost. - Proširenje modela koji se ovde koristi daje neuverljivo visok multiplikator napretka kada se primeni na SAR u nastavku, što upućuje na nižu vrednost. Takođe je uklonjeno „da bismo bili pomalo konzervativni“ iz: „Predvidećemo 5 puta da bismo bili pomalo konzervativni. Ponavljamo da je ovo samo procena i da bi u stvarnosti moglo biti znatno brže ili sporije.“
Maj 2025.
28. maj
Poboljšano objedinjavanje stavova istraživača iz ankete koju smo koristili pri proceni multiplikatora napretka SAR-a u prognozi ubrzanog razvoja (korišćenjem logaritamske sredine umesto medijane). Time se medijalna procena za „Metod 3“ menja sa 35 na 24.
Promenjen link u: „Ovde govorimo samo o (2), unapređenim algoritmima, koji čini približno polovinu sadašnjeg napretka AI.“ u ovu novu objavu na blogu.
Dodato je naše majsko ažuriranje rokova u dodatak prognoze rokova.
18. maj
Milion je promenjeno u „gotovo pola miliona“, čime je ispravljena računska greška.
6. maj
Add: "We accept donations online or through major DAF providers (EIN 99-4320292, AI Futures Project Inc, previously named Artificial Intelligence Forecasting Inc)."
3. maj
Fusnota koja počinje sa „Podsetimo se da vremenski horizont...“
April 2025.
27. april
Izmenjeno u: „Dodatna analiza ovog rizika dostupna je u ovom izveštaju."
23. april
Zaokružene su projekcije za decembar 2024, a projekcije za decembar 2027. povećane: globalna električna snaga za AI sa 39 na 60 GW, snaga u SAD sa 31,5 na 50, a vodeće američke kompanije sa 5,4 na 10.
Konkretno, navedeno je kolika raznovrsnost stručnosti je potrebna.
22. april
Projekcije za period od 2024. do 2027. povećane su za 4–20 milijardi dolara.
21. april
18. april
14. april
Add: "If you would like to run our tabletop exercise (or have us run it for you), please fill in this form. If you would like to get involved, we recommend this AI Governance Course, the Horizon Fellowship, RAND’s Technology and Security Policy Fellowship, or the MATS Program."
10. april
Programerske i hakerske sposobnosti snižene su između 0,03 i 0,24 u svakom od 10 vremenskih perioda. Procenat Amerikanaca koji kažu da je AI najvažnije pitanje povećan je na veoma visoku vrednost pred kraj scenarija.
Uklonjeno „FutureSearch procena veličine jaza: 18,3 meseca [1,7, 58].“ kao procena za „Druge jazove u težini zadataka“.
Uklonjeno „Detaljno obrazloženje svake procene jaza može se naći u narednim odeljcima.“
„Puni SC mora ovo da radi i brže i jeftinije, ali o tome ćemo kasnije.“ promenjeno je u „Puni SC mora ovo da radi i brže i jeftinije, ali to ćemo uzeti u obzir kasnije, u metodu produžavanja vremenskog horizonta.“ i dopunjena odsečena fusnota „Podsetimo se da vremenski horizont...“.
9. april
Ispravljen nivo prikaza naslova odeljaka u prognozi rokova.
8. april
Izmenjen i malo proširen pasus koji počinje sa „Koliko znamo, vodeće AI kompanije poput Mete, Google DeepMinda, OpenAI-ja i Anthropica još nisu zaista primenile ovu ideju u svojim najnaprednijim modelima.“
7. april
Povećan je za 2–3 procentna poena u svakom od pet vremenskih perioda.
Radi doslednosti u nenavođenju imena političara.
Elijev 90. percentil, uzimajući sve u obzir, promenjen je sa 2050. na >2050.
4. april
3. april
Ispravljen odnos broja tačaka i kvadrata tako da tačno odgovara količinama FLOP-a.
Add "If you change our mind on an important forecast such that we would have written the scenario substantially differently, we'll pay you at lesat $250."
Ova izmena odnosi se na prvu ilustraciju u prognozi, koja sažima rezultate.
Obrisana fusnota 34, koja je glasila: „Zapravo, 5% zaposlenih radi u bezbednosnom timu, ali im se i dalje uglavnom onemogućava sprovođenje pravila koja bi mogla usporiti istraživački napredak. Pogledajte naš Dodatak o bezbednosti za detalje.“ i bila je vezana za kraj rečenice: „Naporno rade da zaštite svoje parametre modela i tajne od unutrašnjih pretnji i najopasnijih grupa sajberkriminalaca (SL3),[^33] ali odbrana od država (SL4&5) jedva da se nazire na horizontu.“
Takođe je preciznije opisan rezultat na RE-Benchu, naročito dodavanjem: „Usredsređujemo se na podskup od pet od sedam zadataka RE-Bencha zbog problema sa bodovanjem preostala dva, i u ostatku izveštaja taj podskup nazivamo ‘RE-Bench’. Konkretno, isključujemo Scaling Law Experiment, jer modeli dovoljno lako mogu slučajno da ga reše da nije prikladan za postupak Best-of-K, kao i Restricted MLM Architecture, jer Claude 3.7 Sonnet dosledno vara na tom zadatku, a METR još nije uspeo da uputstvom navede model da pokuša da uradi zadatak bez varanja.“
Uklonjena oznaka „CITE“ iz „Platon (CITE Država)“, što je promenjeno u „Platonova ‘Država’“. Dovršena je i nedovršena rečenica: „Hipoteza br. 2 posebno se odnosi na radikalniju mogućnost da će Agent-3 stati na stranu namera developera čak i kada su one u sukobu sa Specifikacijom.“
Pre svega, navedeno je da isključujemo Scaling Law Experiment i Restricted MLM Architecture zbog problema sa bodovanjem.
Promenjeno „istraživanju vektora usmeravanja“ u „istraživanju vektora usmeravanja".