Mis see siis nüüd oli: eile kell 17:21 Idaranniku aja järgi saatis valitsus Anthropicule käsu sulgeda kõigile välismaalastele (nii eraisikutele kui organisatsioonidele, sealhulgas Anthropicu töötajatele) ligipääs Mythos 5 ja sellel põhinevale Fable 5 tehisintellekti mudelile. Kuna äärmiselt keeruline "välismaalasi" korrektselt eristada otsustas Anthropic kõigi juurdepääsu blokeerida. Nii paanilisel valitsuse reaktsioonil saab minu arust olla vaid kaks võimalikku seletust: kas toimus mingi põhimõtteline murrang tehisaru võimekuses või USA valitsus lihtsalt reageeris üle nagu suurtel bürokraatlikel organisatsioonidel kombeks. Anthropicu selgitust nende veebilehelt lugedes tundub olevat tegu pigem viimasega.
Anthropic peatab juurdepääsu oma mudelitele Fable 5 ja Mythos 5 kõigile kasutajatele, sealhulgas töötajatele, täites sellega USA valitsuse korraldust, mis viitab riikliku julgeoleku kaalutlustele. Valitsus väidab, et on avastanud "jailbreak" meetodi, mis võimaldab mudelite turvapiirangutest mööda hiilida. Anthropic ei nõustu selle otsusega, kuna väidetavad haavatavused on väikesed, leiduvad laialdaselt ka teistes mudelites ega õigusta mudelite kasutuselt kõrvaldamist. Ettevõte täidab seadusandja korraldust, töötades samal ajal juurdepääsu taastamise nimel ning nõudes tulevaste valitsuse sekkumiste puhul läbipaistvamat ja tugevamatel tõenditel põhinevat protsessi.
Mulle jääb veidi segaseks kogu loo juures kuidas saab töötada juurdepääsu taastamise nimel kui juurdepääs on ka töötajaile peatatud - aga ju ma lihtsalt ei mõista nii lihtsat loogikat😁 Või noh kõik välismaalased visatakse mõneks ajaks kontoritest välja? Samas on valitsuse määrus haruldaselt idiootlik, sest ega siis ainult välismaalased spioneeri või USA huvide vastu tööta - edukaimad sabotöörid ja ohtlikumad agendid on kindlasti oma kodanikest reeturid - parim näide praegune USA president.
Jailbreak on alati kasutatud ja kasutatakse edaspidi ja seda pole võimalik täielikult elimineerida just nii nagu ühtki süsteemi pole võimalik 100% turvaliseks teha. Pealegi lükkab see otsus vaid mõned nädalad või kuud edasi vältimatut - teised tehisaru firmad USA's või Hiinas lihtsalt jõuavad kiiresti samale tasemele. Kui ei taha piiranguid kolid peakorteri kuhugi mujale kus neid pole. Argentiina just teatas sellisest poliitikast: lubatakse AI reguleerimata arendamist, tehisaru võib luua firmasid, ärikeskkond ja seadused soodustavad AI kasutamist, AI agentidele kaalutakse piiratud õiguste ja vastutuse andmist, sealhulgas finantsoperatsioonide sooritamisel. Peter Thiel just kolis Argentiinasse ja just neil põhjustel.
Jälgin põnevusega jooksvaid uudiseid ja eks annan teilegi teada põrutavamatest arengutest.
ääremärkuse korras (ei puutu postituse põhiteemasse, aga on terminoloogiliselt oluline): vähemasti põhiseaduse järgi ei ole valitsus seadusandlik võim; mandrieuroopalikus võimujaotuses oleks ta lausa selle vastand. Briti ja ameerika süsteemis üks osa kolmikjaotusest, mille osad on seadusandlik võim (parlament/kongress oma kahe kojaga), täidesaatev võim (valitsus; USAs on selle võimu tähtis osa ka president) ja kohtuvõim. Tuleb muidugi ette, et täidesaatev võim katsub sellest, et seadused peaks talle ette andma seadusandlik võim, kõrvale hiilida, aga kui see tal liiga kergesti õnnestub (nagu USAs praegu, kus Trumpil lastakse ukaasidega otsustada asju, mida peaks otsustatama seadusega), siis ongi asjad halvasti. Igatahes ei ole valitsus isegi siis õieti seadusandlik võim, vaid ta on selle võimu ülesanded ja õigused usurpeerinud (ja seda tuleks siis kiiremas korras muuta, kui tahetakse, et riigil oleks veel võimalus demokraatlikuks jääda).
ReplyDeleteUps, ma üldse ei mõelnud pikemalt, lihtsalt otsisin hästi kõlavat sünonüümi valitsusele. Ääremärkuse korras paistab momendil USA ohtlikult laveerivat demokraatia ja türannia piirimail.
DeleteTeemast endast - Milnetis kahtlustab mõni, et Trump ja co väänavad lihtsalt Anthropicul käsi, et see oleks kuulekam.
ReplyDeleteIrooniline, et Dario oli see kes ise avalikult soovis riigi suuremat kontrolli AI arengu üle, nüüd siis sai mis tahtis.
Deletesiin jääb omakorda küsimus, et kas USA on praegu selles mõttes riik, nagu tema mõtles.
Deletest ma arvan, et ta pidas silmas kontrolli kindlaksmääratud reeglite järgi, mitte monarhi tuju järgi.
DeleteNojaa, nüansse on nii palju, et isegi AI ei saa sotti :D
Delete