Kompanija Anthropic upozorila je da bi mogla uskoro da dostigne ključnu granicu u rekurzivnom samounapređivanju veštačke inteligencije (RSI) – procesu u kom AI sistemi pomažu u razvoju sve sposobnijih verzija samih sebe. Upozorenje se pojavilo u izmenjenoj S-1/A prijavi podnetoj SEC-u.
Prema internim procenama kompanije, budući AI modeli mogli bi uskoro da dostignu prag definisan Anthropic-ovom Politikom odgovornog skaliranja, koji podrazumeva ili zamenu čitavog istraživačkog tima po konkurentnim troškovima ili udvostručavanje ukupnog tempa napretka AI kroz automatizovano istraživanje i inženjering. Nijedan od trenutnih modela još nije prešao ovaj prag.
Claude već piše većinu koda
U septembru 2026. godine, Claude je bio autor više od 90% doprinosa Anthropic-ovoj bazi koda. Prosečni dnevni obim koda po inženjeru u trećem kvartalu bio je više od 45 puta veći nego na nivou iz 2024. godine. Ovi podaci mere obim koda, a ne ekvivalentne dobitke u produktivnosti inženjera.
Anthropic je ranije detaljno opisao ovu rastuću zavisnost od AI u publikaciji „When AI Builds Itself“. Ljudski istraživači i dalje zadržavaju važnu prednost u odabiru istraživačkih ciljeva i donošenju naučnih odluka.
Bezbednost ne može da prati tempo razvoja
Kompanija upozorava da bi ubrzani razvoj mogao da nadmaši njenu sposobnost primene mera bezbednosti i usklađivanja sistema. Anthropic takođe priznaje da ranije nije prepoznavala značajna ubrzanja sve dok se nisu već dogodila.
Za sada, Anthropic navodi da ne planira da dozvoli Claude-u autonomni razvoj sledećih modela bez smislenog ljudskog nadzora. Kompanija razmatra uvođenje dodatnih zaštitnih mehanizama kako bi zadržala kontrolu nad razvojnim procesom.
