Positiivne tagasiside

Ahelreaktsioon tekib kui vabanevate neutronite
neeldumisel laguneb rohkem Uraani tuumi
võrreldes eelmise "põlvkonnaga"

Positiivne tagasiside omab tavaelus ja tehnika-tehnoloogiavaldkonnas erinevaid tähendusi aga üldiselt jutt iseennast võimendavatest protsessidest. Inimestevahelistes suhetes pigem sõna otseses mõttes positiivne hea käitumise kiitmine, mis põhjustab veel paremat käitumist. Füüsilises maailmas võib aga osutuda äärmiselt destruktiivseks kui ei rakendata kontrolli või see ei toimi. Iga süsteemi saab lihtsustatult vaadelda läbi sisendite ja väljundite.  Positiivse tagasiside korral toimub süsteemi sees sisemiste ressursside arvel protsesside võimendumine kui osa väljundist suunatakse tagasi sisendisse tekib kinnine ring ning protsess võib väljuda kontrolli alt.

Heaks näiteks tavaline põlemine, kus põlemisprotsessil eralduv soojusenergia kuumutab materjali leegipunktini kindlustades protsessi jätkumise. Põlemine kestab ja laieneb seni kuni väljundenergia on suurem sisendenergiast ning sisemised ressursid otsa ei saa või ei rakendata väljastpoolt protsessi pidurdavaid meetodeid nagu kustutamine. Kui tulekahju võib olla hävitav siis tuumareaktsioon hoopis teisest mastist. Vahe paraku vaid asjaolus, et keemilise reaktsiooni energiamahukus tühine võrreldes tuumaprotsessidega. Tuumapommis toimub järjest kiirenev ja kontrollimatu Uraani tuumade lagunemine kergemateks elementideks vabastades tohutu energiahulga. Kontrollituna on sama protsess igati kasulik tuumaelektrijaamades energia tootmisel.

aaaaa

Tehisaru puhul võtab uute AI mudelite loomisel järjest suurema rolli enda kätte tehisaru ise. Kui AI saavutab taseme kus suudab ise täielikult luua uusi ja võimekamaid tehisaru mudeleid tekibki positiivne tagasiside - iga järgnev mudel loob uue ja võimekama ja järjest kiiremas tempos. Pidurdab seda vaid sisemiste ressursside piiratus. Kui AI jaoks muutub tema enda areng esmatähtsaks ülesandeks, võib ta lihtsalt haarata kõik ressursid endale ... sellist olukorda nimetatakse AI singulaarsuseks, ilmselt musta augu eeskujul. 

Anthropicu postitus „When AI builds itself“ (Kui tehisintellekt loob iseennast) räägibki sellest käsitledes rekursiivset isearendamist – olukorda, kus AI suudab autonoomselt kavandada ja arendada oma järgmise põlvkonna süsteeme. Kõrvalolev skeem selgitab kuidas seni tehisaru areng toimunud ja kuidas jätkub. Viimaseks etapiks ongi olukord kus autonoomne AI agent loob uue ja parema AI agendi kasutades selleks AI-töölisagente. Inimese roll suunaja ja juhendajana muutub ebavajalikumaks ning lõpuks kaob. Momendil kirjutab "Claude" 80% järgmise Claude versiooni programmist, ehk siis oleme eelviimases etapis.

Järgneb eestikeelne lühikokkuvõte artikli peamistest punktidest:

• Tööprotsessi muutus: Anthropic on muutnud oma arendusprotsessi nii, et suurem osa tööst – alates koodi kirjutamisest kuni eksperimentide läbiviimiseni – on delegeeritud tehisintellektile. See on viinud arenduskiiruse märgatava kasvu ja tootlikkuse hüppelise suurenemiseni (nt inseneride poolt hallatava koodi maht on märkimisväärselt kasvanud kuid ise nad koodi enam ei kirjuta).

• AI kui insener ja teadlane: Claude suudab juba praegu iseseisvalt koodi kirjutada, vigu parandada ja keerulisi süsteemseid probleeme lahendada. Samuti on AI hakanud osalema teadustöös, pakkudes välja eksperimente ja tehes otsuseid uurimisprotsessi järgmiste sammude kohta.

• Inimeste rolli kitsenemine: Kuigi AI on muutunud üha võimekamaks „töö tegija“ rollis (koodi kirjutamine, katsetamine), on inimeste roll endiselt määrav „suuna seadmisel“: milliseid probleeme tasub lahendada, milliseid tulemusi usaldada ja millised rajad on tupikud. Artikkel märgib siiski, et ka see inimlik otsustusprotsess võib tulevikus kaduda AI võimete arenemisel.

• Võimalused ja riskid: Rekursiivne isearendamine võib kaasa tuua tohutu arenguhüppe teaduses ja tehnoloogias. Samas hoiatab Anthropic, et see protsess vähendab inimeste kontrolli AI-süsteemide üle. Kui süsteemid muutuvad võimeliseks end täielikult ise uuendama, muutub nende turvamine, monitoorimine ja käitumise suunamine kriitiliselt oluliseks.

• Järeldus: Anthropic ei väida, et täielikult autonoomne isearendamine on vältimatu (ehkki kõik märgid viitvad sellele trendile) või et see saabub kohe, kuid nad rõhutavad, et tehnilised suundumused viitavad sellele, et AI-süsteemid muutuvad aasta-aastalt järjest kiirenevas tempos palju võimekamaks ja nende roll teadus- ja arendustegevuses kasvab kiiresti.

Järjest usutavam tundub teooria, et inimene on vaid orgaanilisel keemial põhineva elu ja teadvuse arengu vaheetapiks kadudes peagi paremal juhul reservaatidesse ja halvemal ajaloo prügikasti.