Ahelreaktsioon, RSI, RST

Enesetäiendamine ja enesetreening on kaks iseasja

Eelmises postituses mainisin, et ilmselt on äsja ületatud märgiline verstapost AI arengus. Eelmisel kuul tehtud mitmed avaldused AI arengu kiiruse kontrolli vajaduse teemal pea kõigi juhtivate laborite poolt panid kulmu kergitama. 

Tavakodanikule arusaadavas keeles oleks ehk kõige lihtsam AI arenguplahvatust selgitada kasutades üldtuntud analoogiaid muudelt aladelt. Tuumaplahvatuse (tuumalagunemise ehk raskete Uraani või Plutooniumi tuumade puhul) kutsub esile ahelreaktsioon, mis põhineb asjaolul, et iga tuuma lõhustumise juures eraldunud neutronitest keskmiselt rohkem kui üks neeldub järgmises tuumas kutsudes omakorda esile uue lõhustumise: k>1. Teine analoogia oleks positiivne tagasiside, põhineb süsteemi väljundi suunamises tagasi sisendisse ja sellega kaasnevas kontrollimatus võimendustsüklis - lihtsaim üldtuntud näide mikrofoni ja kõlarite akustiline tagasiside - vilin või ulgumine.

Oluline on vahet teha enesetäiendamisel (RSI) ja enesetreeningul (RST), mille erinevust selgitab hästi globaltechcounceli artikkel, vaata ka ülalolevat illustratsiooni. Tehisaru arenduses on positiivseks tagasisideks Recursive Self Improvement ehk eesti keeles kohmakas Rekursiivne Enesetäiendamine, mis seisneb tehisaru kasutamises tema enda võimekuse tõstmisel läbi pideva koodi ja süsteemi arhitektuuri parandamise. Esimesel pilgul tundub, et milles küsimus, arendajad on kasutanud AI'd kogu aeg arendustegevuses. Konks on kolmes teguris: arengu kiiruses ehk positiivse tagasiside tugevuses, AI ja inimtööjõu kasutamise suhtelises mahus ja kontrollis ning piiravates pudelikaeltes, mis pidurdaksid plahvatuslikku võimendust.

Tehisaru puhul loetakse kokkuleppeliselt kriitiliseks piiriks AI võimekuse arengu kiirenemine aasta jooksul kaks korda eeldusel, et enamus on põhjustatud puhtalt AI kasutamisest mitte inimfaktorist või riistvaralisest võimendusest. Lahtiseletatult aastases tsüklis toimub võimekuse arengus geomeetriline progressioon 2X,4X,8X,16X, ... ilma inimtööjõudu lisamata, andmekeskusi juurde ehitamata või energiavajadust suurendamata. Miks just kaks korda aasta jooksul: mugav kasutada ja praeguste teadmiste põhjal eeldatavasti piisav ohutusvaru.

Anthropic (seni ainsana) tellis sõltumatu audiitori METR hindama AI arengu kiirenemist. Vastavalt mittetulundusühingu METR (Model Evaluation and Threat Research) poolt 5. novembril 2026 avaldatud 11 nädalat kestnud hindamisele on Anthropicu mudelite võimekuse edenemine alates 2025. aasta oktoobrist kiirenenud 1,9 korda (peaaegu kahekordistunud). Anthropic läheneb oma vastutustundliku skaleerimise poliitika (RSP) ohutusparameetrile "2X kiirenemise künnis“ – või on selle tõenäoliselt juba ületanud. Märgiline on ka see, et Anthropic tsenseeris (redacted) päris korralikult avalikku aruannet. Täna avalikustatud Fable 5.2 mudeli puhul on AI osa arendustöös juba üle 90% ja lugedes/vaadates proffide hinnanguid on tegu ülivõimeka mudeliga.

Arvestades, et AI tippfirmad on enam-vähem samal tasemel ja nende sisemises kasutuses ning arenduses olevad mudelid oluliselt võimekamad avalikku kasutusse jõudnuist võib suht kindel olla, et tarkvaraline üha kiirenev tsükliline enesetäiendamine on praeguseks saavutatud. Eksistentsiaalne oht inimkonnale tekib aga alles siis kui lisaks tarkvaralisele enesetäiendamisele lisandub ka riistvaraline ehk tehisaru poolt juhitud/kontrollitud elektroonika, mälu, protsessorite, mehhaanika ja infra ehitamine ning robotid. Lokaalse AGI või ASI'ga varustatud robotid ei vaja inimest. 

Keda huvitab siis järgneb Gemini lühikokkuvõte Anthropicu ohutusprotokollidest ja METR raportist:

Mis on "2x kiirenemise künnis“?

Anthropicu ohutusprotokollid sisaldavad konkreetseid „hoiatuskünniseid“, mis on seotud tehisintellekti võimekuse edasiliikumise kiirusega.

• Definitsioon: Anthropicu RSP versiooni 3.4 kohaselt käivitub 2x kiirenemise künnis siis, kui tehisintellekti arenduse edenemine kahekordistub ning see kiirenemine on olulisel määral tingitud tehisintellekti teadustöö enda automatiseerimisest (rekursiivne isetäiustumine). [1, 2]

• Põhjus: METR hindab, et umbes 80% sellest kiirenemisest on tingitud sellest, et Anthropic kasutab oma sisemisi tehisintellektisüsteeme koodi kirjutamiseks, eksperimentide kavandamiseks ja treeningprotsessi optimeerimiseks, mitte pelgalt arvutusvõimsuse suurendamisest. [1, 2]

• Ohutusdebatt: 2026. aasta augusti riskiaruandes väitis Anthropic, et ta ei ole seda künnist veel ületanud. METR-i sõltumatu analüüs jõudis aga järeldusele, et Anthropicu kaitseargumendid olid liialdatud ja on väga tõenäoline, et ohutuskünnis ületati juba 15. juulil 2026. [1, 2]

METR-i hindamise peamised leiud

• Kaks aastat edenemist ühe aastaga: Alates 2025. aasta oktoobrist tõusis Anthropicu sisemine võimekuse indeks 15 punktilt 29 punktini aastas. [1]

• Pudelikaelu ei paista: METR leidis, et puuduvad kahaneva tootlikkuse märgid või füüsilised pudelikaelad (nagu arvutusvõimsuse või andmete piirangud), mis tähendab, et arengutempo võib jätkuvalt eksponentsiaalselt kasvada. [1, 2]

• Ettevõttesisene varjamine: Aruandes märgitakse, et Anthropic kasutas ühepoolset redigeerimisõigust mõningate kõige informatiivsemate tõendite osas ning katkestas poole pealt planeeritud arvutusressursside jaotamise ohutusauditi. [1]

Miks see ohutusparameeter oluline on?

2x kiirenemise künnise ületamine on kriitiline riskinäitaja. Kui tehisintellekt hakkab oluliselt kiirendama omaenda arengut, toob see kaasa „intellekti plahvatuse“ riski – olukorra, kus võimekus väljub kiiresti inimese järelevalve alt, ületades tööstuse võimet rakendada vastavaid ohutusmeetmeid. [1, 2, 3]

Anthropic tunnistas hiljuti neid dünaamikaid ka oma finantsaruannetes, märkides, et tehisintellekti kasutamine tehisintellekti loomiseks kujutab endast „märkimisväärset ohutusriski“ ning et nad kaaluvad edasisi poliitikamuudatusi, et säilitada inimese järelevalve tipptasemel mudelite üle.

Anthropic's Responsible Scaling Policy (RSP) centers on AI Safety Levels (ASL), a tiered framework that categorizes AI models by their capabilities and pairs them with pre-defined security, deployment, and evaluation safeguards. [1, 2, 3]

AI Safety Levels (ASL Tiers)

ASL-1: Systems with no meaningful autonomous capabilities (such as basic chess-playing software). [1, 2]
ASL-2: Current frontier models (like Claude) that show early or marginal dangerous capabilities, but do not meaningfully accelerate catastrophic risks beyond what humans can already do. Requires basic safety and security practices. [1, 2, 3]
ASL-3: Systems that could meaningfully accelerate catastrophic risks—such as assisting in the creation of chemical, biological, radiological, or nuclear (CBRN) weapons, executing large-scale cyberattacks, or exhibiting low-level autonomous replication and dangerous capability acquisition. Requires the ASL-3 Security Standard and ASL-3 Deployment Standard, featuring strict access controls, heavy red-teaming, and model weight hardening. [1, 2, 3, 4, 5]
ASL-4 & ASL-4+: Systems that could enhance catastrophic risks beyond what expert humans can achieve, or approach/exceed human-level performance across most domains. [1]

Core Safety Parameters & Triggers

Capability Thresholds: Pre-set performance limits in high-risk categories—including CBRN weapons development, cyberattack capabilities, and autonomous AI R&D automation (such as the distinct AI R&D-4 threshold for misalignment-focused commitments). [1, 2]
Continuous Evaluation: Testing models against these thresholds both before and during training/deployment using structured dangerous-capability evaluations and red-teaming. [1, 2, 3]
Deployment & Scaling Pauses: If a model crosses a capability threshold and the required safety or cybersecurity standards are not yet met, Anthropic restricts further scaling or public deployment until proper mitigations are implemented. [1, 2, 3]
Governance and Assurance: Regular Risk Reports (published every 3–6 months) with independent third-party external review, oversight from a Responsible Scaling Officer, and board/trust sign-offs. [1, 2]