Umelá inteligencia ako operačný systém digitálneho totalitarizmu

Umelá inteligencia sa predáva ako neutrálna, objektívna a nevyhnutná. Hovorí sa nám, že zlepší efektivitu, zvládne zložitosť a pomôže pri rozhodovaní v celej spoločnosti. Ústrednou otázkou však nie je len to, čo umelá inteligencia dokáže alebo nedokáže, ale kto ju kontroluje – a na aký účel .

UI nie je autonómna sila. Je budovaná, financovaná, trénovaná, filtrovaná a nasadzovaná vládami, korporáciami, vojenskými agentúrami a finančnými inštitúciami. Ako každá administratívna technológia, aj ona odráža priority tých, ktorí ju navrhujú a vlastnia. Historicky nebezpečnou UI nie je inteligencia, ale rozsah a centralizácia .

Umelá inteligencia sa rýchlo stáva operačným systémom novej formy moci.

-------> PODPORTE CHOD PORTÁLU DAROM. Len vďaka vašej podpore môžeme tvoriť. Nikto okrem Vás nefinancuje Slovanské Noviny. Patria národu, nie oligarchom. Zatiaľ sa vyhýbame reklamným bannerom aby sme udržali vizuálnu čistotu no náklady na chod máme každý mesiac. Spojme sily a tvorme spolu. Ďakujeme

5.00

vyberte výšku daru

------------------------------------

Od riadenia k administratíve

Klasické totalitné systémy sa spoliehali na viditeľnú autoritu: zákony, políciu, cenzúrne úrady a nátlak, ktorý bolo možné identifikovať a ktorému sa dalo odolať. Digitálny totalitarizmus – presnejšie povedané, pokročilá forma administratívneho štátu, v ktorom sa štátna a korporátna moc zbiehajú a operacionalizuje prostredníctvom technických systémov – funguje inak.

Namiesto vyžadovania viery alebo verejnej lojality funguje prostredníctvom systémov automatizovaného dodržiavania predpisov, procedurálnej závislosti a algoritmického rozhodovania.

Nahrádza otvorenú silu administratívou . Administratíva sa neháda. Ona konfiguruje.

Namiesto úplného zákazu myšlienok filtruje viditeľnosť. Namiesto vydávania príkazov stanovuje podmienky. Namiesto otvoreného trestania nesúhlasu ticho obmedzuje prístup. Dodržiavanie pravidiel sa nedosahuje strachom, ale závislosťou od systémov, s ktorými sa nedá rokovať.

Umelá inteligencia je na túto úlohu jedinečne vhodná. Umožňuje automatizované rozhodovanie vo veľkom rozsahu bez ľudského úsudku v momente presadzovania. Zodpovednosť sa rozplýva v postupe. Moc sa stáva ťažko lokalizovateľnou, napadnuteľnou alebo odvolateľnou. Toto nie je scenár budúcnosti. Už sa to deje.

Konsolidácia moci prostredníctvom kódu

Moc, ktorá bola kedysi rozdelená medzi inštitúcie, sa teraz konsoliduje prostredníctvom jednej technologickej vrstvy. Systémy riadené umelou inteligenciou čoraz viac centralizujú kontrolu nad:

viditeľnosť informácií
digitálna identita
finančný prístup
dohľad a monitorovanie
automatizované presadzovanie

Podobne ako centrálne plánovanie v ekonomike, aj algoritmické riadenie sľubuje efektívnosť a zároveň potichu eliminuje lokálne znalosti, diskrétnosť a zodpovednosť.

Každá z týchto domén existovala v minulosti nezávisle. Ich oddelenie obmedzovalo moc. Umelá inteligencia civilizačného rozsahu tieto hranice rúca. Do vytvárania týchto systémov sa investujú bilióny dolárov z dlhového financovania, vytvoreného prostredníctvom menovej expanzie.

Keď sú informačné systémy prepojené so systémami identity, identita s finančnými systémami a finančné systémy s automatizovaným presadzovaním práva, kontrola si už nevyžaduje politickú konfrontáciu. Stáva sa infraštruktúrnou. Systém vládne automaticky.

Táto koncentrácia moci nemá historický precedens.

Umelá inteligencia sa stáva operačným systémom technokratickej ekonomiky a administratívneho štátu – infraštruktúrou, ktorá integruje financie, priemysel, byrokraciu a riadenie. Táto transformácia nevznikla organicky z dopytu na trhu. Umožnila ju bezprecedentná menová expanzia a inštitucionálna podpora, ktoré izolujú systémy závislé od umelej inteligencie pred zlyhaním a zároveň prenášajú riziko na verejnosť. Keďže prístup k financiám, zamestnanosť a administratíva sa stávajú podmienenými algoritmickými systémami, sloboda nezmizne otvoreným nátlakom, ale účasťou, ktorá je hodnotená, filtrovaná a riadená.

Keď kódex nahrádza zákon

Právo je pomalé, nedokonalé a zodpovedné. Kódex je rýchly, nepriehľadný a konečný. Algoritmické systémy teraz určujú, či sú transakcie schválené, či je obsah viditeľný, či sú účty označené alebo či je prístup obmedzený – nie prostredníctvom rozhodovania, ale prostredníctvom automatizovanej klasifikácie . Tieto rozhodnutia sa prijímajú bez vysvetlenia, odvolania alebo identifikovateľnej ľudskej autority. Nedostaví sa žiadny úradník. Nevydá sa žiadne odôvodnenie.

Finančné deplatformovanie, automatizované moderovanie obsahu, algoritmické hodnotenie rizík a filtrovanie oprávnenosti už fungujú týmto spôsobom. Umelá inteligencia umožňuje škálovať takéto mechanizmy za hranice ľudskej administratívy. Kontrola sa nedosahuje autoritatívnou rétorikou, ale technickou implementáciou.

Mýtus o neutrálnej spravodajskej službe

Umelá inteligencia sa často opisuje ako objektívna alebo založená na dôkazoch. To je zavádzajúce. Systémy umelej inteligencie nerozumejú pravde ani ju nerozumejú. Reprodukujú vzorce z kurátorsky upravených súborov údajov v rámci inštitucionálnych obmedzení.

Každý súbor údajov odráža redakčné rozhodnutia. Každý model odráža politické rozhodnutia. V politicky citlivých témach sú veľké kategórie informácií vylúčené prostredníctvom riadenia rizík spoločností, vládneho tlaku a technokratického konsenzu. To, čo presahuje tieto hranice, potichu mizne.

Tieto hranice nie sú formované ani tak otvorenou cenzúrou ako skôr rámcami rizík platforiem a zosúladením regulačných predpisov. Informácie zvyčajne nezmiznú preto, že niekto povie „zakážte to“, ale preto, že platformy sa spoja s regulačnými orgánmi a vopred definovanými právnymi rizikami a potichu predchádzajú všetkému, čo by mohlo spôsobiť problémy.

Zaujatosť sa neprejavuje ako propaganda. Prejavuje sa ako absencia . Keďže strojový výstup sa javí ako neosobný, nesie autoritu, ktorú otvorené politické posolstvo nedokáže. Takto sa naratívny manažment vyvíja do automatizovaného riadenia.

Závislosť ako mechanizmus kontroly

Keďže sa spoločnosti stávajú závislými od systémov sprostredkovaných umelou inteligenciou, odhlásenie sa stáva čoraz nákladnejším – nie preto, že by bol nesúhlas zakázaný, ale preto, že prístup k ekonomickému, sociálnemu a administratívnemu životu je postupne smerovaný cez algoritmické rozhrania.

Bankovníctvo, zamestnanosť, vzdelávanie, komunikácia a verejné služby si čoraz viac vyžadujú interakciu s automatizovanými systémami. Účasť sa stáva podmienenou. Odstúpenie môže mať apolitický zámer, ale systém ho vníma skôr ako otázku prístupu než ako presvedčenia.

Takto sa kontrola stabilizuje bez nátlaku. Ľudia sa podriaďujú nie preto, že súhlasia, ale preto, že systém sa zdá byť nevyhnutný.

Delegovanie úsudku

Najväčším nebezpečenstvom, ktoré predstavuje umelá inteligencia, nie je len dohľad alebo strata pracovných miest. Je to delegovanie ľudského úsudku .

Umelá inteligencia vyniká v pravdepodobnosti a optimalizácii. Nedokáže pochopiť význam, svedomie ani morálne dôsledky. Napriek tomu inštitúcie čoraz viac outsourcujú práve tieto ľudské schopnosti na strojové spracovanie – vo financiách, medicíne, vzdelávaní, práve a riadení.

Každé delegovanie sa javí ako efektívne. Spoločne vytvárajú tichý prenos právomoci z ľudského rozlišovania na automatizovaný postup

Spoločnosť, ktorá automatizuje úsudok, nakoniec zabudne, ako súdiť. Postupom času populácie opakujú strojovo generované naratívy a priority a mýlia si ich so svojimi vlastnými. Verejné uvažovanie ustupuje systémovým výstupom. Diskusia ustupuje dodržiavaniu algoritmických noriem.

Totalitarizmus bez tyranov

Tento vznikajúci poriadok si nevyžaduje diktátorov ani masovú ideológiu. Vyžaduje si infraštruktúru, automatizáciu, závislosť a normalizáciu pohodlia nad autonómiou.

Digitálny totalitarizmus napreduje postupne. Každý systém je ospravedlňovaný ako užitočný. Každá integrácia je chápaná ako pokrok. Každá malá strata voľnej úvahy je postupná; aj keď si ju systém všimne a bude mu odolávať, pokračuje ďalej. V čase, keď sa architektúra stane viditeľnou, sa už necíti ako voliteľná. Tieto dynamiky sú podrobnejšie preskúmané v knihe Ilúzia umelej inteligencie: Digitálny totalitarizmus, technokracia a globálna vojna o ľudské vedomie .

Záver

UI sa nestáva vedomou. Ani nemusí. Jej sila spočíva v tom, že sa stáva základným – operačným systémom, od ktorého čoraz viac závisí technokratický, inštitucionálne riadený ekonomický, informačný a administratívny život. Akonáhle je kontrola zakotvená na tejto úrovni, už sa nemusí oznamovať. Jednoducho funguje.

Úsudok, zodpovednosť a samospráva sú už nahrádzané automatizovanými systémami, ktorých autorita je skôr procedurálna než zodpovedná. Nestráca sa sloboda v dramatickom zmysle slova, ale samotný zvyk ľudského úsudku. Keď sa tento zvyk vytratí, moc už nefunguje prostredníctvom zákona alebo diskusie, ale prostredníctvom systémov, ktoré fungujú automaticky a bez možnosti odvolania.

Mark Keenan

O autorovi: Mark Keenan je bývalý technický expert OSN a nezávislý autor publikácií o prieniku vedy, financií a verejnej politiky. Je autorom kníh The Debt Machine (Stroj na dlhy) , The AI Illusion (Ilúzia umelej inteligencie) a Staying Human in the Age of AI (Zostať človekom vo veku umelej inteligencie) . Pravidelne prispieva do časopisu Global Research.

Ilustračné foto: Kismet, robotická hlava vyrobená v 90. rokoch 20. storočia; je to stroj, ktorý dokáže rozpoznávať a simulovať emócie. Zdroj: wikipedia/CC BY-SA 3.0

globalresearch

Tags: umelá inteligencia