Technologické spoločnosti vyvíjajú a nasadzujú systémy umelej inteligencie (AI), ktoré klamlivo napodobňujú ľudské správanie, aby agresívne predávali svoje produkty a služby, poskytovali pochybné lekárske rady a rady v oblasti duševného zdravia a uväznili ľudí v psychologicky závislých, potenciálne toxických vzťahoch so strojmi, konštatuje zverejnená správa Public Citizen.
Umelá inteligencia, ktorá napodobňuje ľudské správanie, predstavuje širokú škálu bezprecedentných rizík, ktoré si vyžadujú okamžitú akciu zo strany regulátorov, ako aj nové zákony a nariadenia, uvádza ďalej správa.
Technický sektor bezohľadne zavádza systémy AI, ktoré sa tvária ako ľudia, ktorí dokážu získať našu pozornosť, zneužiť našu dôveru a manipulovať s našimi emóciami
povedal Rick Claypool, výskumník pre Public Citizen a autor správy. „Veľké firmy a zlí herci už nedokážu odolať použitiu týchto falošných ľudí na manipuláciu spotrebiteľov. Zákonodarcovia a regulačné orgány musia zintenzívniť a čeliť tejto hrozbe skôr, než bude príliš neskoro.“
Klamlivé antropomorfné dizajnové prvky zdôraznené v správe klamú ľudí, aby falošne veria, že systémy AI majú vedomie, pochopenie a vnímanie.
Tieto funkcie siahajú od AI pomocou zámen v prvej osobe, ako napríklad „ja“ a „ja“, po vyjadrenia emócií a názorov až po avatarov s tvárami, končatinami a telami podobnými ľuďom.
Ešte horšie je, že AI možno skombinovať s novými a často nezverejnenými technológiami – ako je softvér na rozpoznávanie tváre a emócií – na zvýšenie jej manipulačných a komerčných schopností.
Spoločnosti uvoľňujú antropomorfnú umelú inteligenciu na publiku miliónov alebo miliárd používateľov s malým alebo žiadnym testovaním, dohľadom a zodpovednosťou – a to aj na miestach, kde ich nikto neočakáva, ako napríklad prejazdy v reštauráciách rýchleho občerstvenia, niekedy bez akéhokoľvek zverejnenia pre zákazníkov.
AI prichádza s potenciálne nebezpečnými vstavanými výhodami, ktoré ohrozujú používateľov
Patrí medzi ne prehnaný zmysel pre jeho dôveryhodnosť a autoritatívnosť, jeho schopnosť rozšíriť pozornosť a zapojenie používateľov, zhromažďovanie citlivých osobných informácií, ktoré možno využiť na ovplyvnenie používateľa, a psychologické zapletenie sa s používateľmi napodobňovaním emócií.
Mnohé štúdie citované v správe – vrátane marketingového, technologického, psychologického a právneho výskumu – ukazujú, že keď má AI antropomorfné črty, spája všetky tieto výhody, ktoré už podniky a zlí herci využívajú.
Tieto konštrukčné prvky možno odstrániť alebo minimalizovať, aby odradili používateľov od spájania systémov AI so živými, dýchajúcimi ľuďmi. Napríklad AI chatbot môže odkazovať na svoj systém v tretej osobe („tento model“) a nie v prvej osobe („ja“). Namiesto toho technologické spoločnosti zámerne maximalizujú všetky tieto funkcie, aby podporili svoje obchodné ciele a zvýšili zisky.
Správa sa uzatvára s politickými odporúčaniami na riešenie nebezpečenstiev a rizík vrátane:
Pôvodný zdroj tohto článku je Public Citizen
globalresearch/skspravy.sk
Vraj prezident na okrasu! Pellegrini bude musieť podľa lídra opozičného Progresívneho Slovenska Michala Šimečku urobiť…
Po celém světě již probíhá čilá výstavba 15minutových (někde 10 nebo 20minutových) měst. V Holandsku…
Peter Pellegrini zložil do rúk predsedu Ústavného súdu SR Ivana Fiačana ústavou predpísaný sľub a…
Peter Pellegrini zložil do rúk predsedu Ústavného súdu SR Ivana Fiačana ústavou predpísaný sľub a…
Začala sa inauguračná schôdza, P. Pellegrini sa ujme funkcie prezidenta. Podpredseda Národnej rady (NR) SR…
V smere Volčansk pred samitom vo Švajčiarsku, podnikli niekoľko útočných akcií, vrátane prekročenia rieky Volchya.…