Tak jako ryby žijí ve vodě, žijí dnes lidé v oceánech digitální byrokracie, kde neustále vdechují a vydechují data. Každé naše jednání zanechává stopu a tyto stopy jsou shromažďovány a analyzovány za účelem identifikace vzorců. (246)
Počítače jsou omylné. (303)
Civilizace vzniká spojením byrokracie a mytologie. (309)
I modely AI mají zkušenosti z dětství. (301)
Počítačová síť narušuje téměř všechny mocenské struktury. (233)
Zatímco se debaty o těchto nebezpečích teprve začínají vést, technologie se vyvíjejí daleko rychleji než politika. (233)
Roste informační ekonomika na úkor té peněžní, takže samotný model peněz se stává sporným… data jako peníze, sociální kredit jako peníze - 232 - potřeba promyslet.
Nejenže má digitální byrokracie schopnost sledovat naše činy, ale dokáže nahlížet i do našeho těla. Vezměte si například sledování pohybů očí.
Zabitím dokumentů došlo ke smazání dluhů. (87)
Systémy dohledu obvykle fungují na principu agregování velkého počtu bodů, které určují celkové skóre. (258 následující)… Sociální kredit jako nový typ peněz.
Peníze jsou body, které lidé získávají prodejem určitých výrobků a služeb a za které si pak kupují jiné výrobky a služby. Někde říkají bodům dolary, jinde eura. Body mohou mít podobu mincí, bankovek nebo bitů. Body samotné jsou samozřejmě ze své podstaty bezcenné. Jejich hodnota spočívá v tom, že slouží jako účetní žetony, které společnost používá ke sledování osobního skóre jednotlivců. (Peníze)
I v těch nejkapitalističtějších společnostech vždy existovala místa, kam peníze nepronikly. Jakou cenu má úsměv? Kolik si vydělám návštěvou prarodičů?
K posuzování hodnot, které si za peníze nekoupíte, existoval alternativní, nepeněžní systém označovaný různými jmény: čest, postavení, pověst.
Systémy sociálních kreditů usilují o standardizované ocenění trhu s reputací. Představují nový bodový systém, který připisuje přesnou hodnotu třeba i úsměvu nebo návštěvě rodiny.
Jedním z hlavních rozdílů mezi penězi a pověstí je, že peníze jsou spíš matematický konstrukt, zatímco lidskou pověst nelze tak snadno vyjádřit v číslech.
“Vypočítavost” byla naopak synonymem lsti a intrikaření.
V nejextrémnější formě systému sociálních kreditů získá každý člověk celkové reputační skóre zohledňující všechno, co kdy udělal, a určující všechno, co smí dělat dál.
Americký právní systém už zná korporace jako právnické osoby. (293)
Po desítky tisíc let jsme my lidé ovládali planetu Zemi, protože jsme byli jediní, kdo dokázal vytvořit a udržovat intersubjektivní entity jako korporace, měny, bohy a národy a ve velkém měřítku je využívat ke spolupráci. Teď mohou srovnatelné schopnosti získat také počítače.
Představte si možný vývoj finančního systému. Je pravděpodobné, že počítače budou vytvářet nové interpočítačové finanční nástroje. Kryptoměny jsou na půli cesty mezi intersubjektivní a interpočítačovou realitou. Vymysleli je lidé a jejich hodnota stále závisí na lidské víře, nemohou však existovat mimo počítačovou síť. Stále častěji se s nimi navíc obchoduje pomocí algoritmů, takže jejich hodnota závisí na algoritmických výpočtech, a ne pouze na lidském přesvědční.
2008: CDO - dluhové obligace - Tyto finanční nástroje vynalezla hrstka matematiků a investičních geeků a pro většinu lidí, včetně regulátorů, byly téměř nesrozumitelné. Počítače mohou vytvořit finanční nástroje, které budou o mnoho řádů složitější než CDO.
2010 Nejvyšší soud Spojených států rozhodl, že ochranu si zaslouží dokonce i právo korporací na politické dary.
Co může zabránit AI, aby se stala součástí systému a byla uznána jako právnická osoba se svobodou projevu, takže by následně mohla lobbovat a poskytovat politické dary s úmyslem chránit a rozšiřovat svá práva.
Vzestup nevyzpytatelné cizí inteligence podkopává demokracii.
Už dnes finančnímu systému rozumí jen malá skupina lidí.
Evoluce naprogramovala naši mysl tak, aby chápala smrt způsobenou tygrem. Mnohem obtížnější je pro ni pochopit smrt způsobenou dokumentem. (s.85 - smrt)
Comments
Nothing yet. Say the first thing.
Sign in to join the conversation.