Technologické spoločnosti vyvíjajú a nasadzujú systémy umelej inteligencie (AI), ktoré klamlivo napodobňujú ľudské správanie, aby agresívne predávali svoje produkty a služby, poskytovali pochybné lekárske rady a rady v oblasti duševného zdravia a uväznili ľudí v psychologicky závislých, potenciálne toxických vzťahoch so strojmi, konštatuje zverejnená správa Public Citizen.
Umelá inteligencia, ktorá napodobňuje ľudské správanie, predstavuje širokú škálu bezprecedentných rizík, ktoré si vyžadujú okamžitú akciu zo strany regulátorov, ako aj nové zákony a nariadenia, uvádza ďalej správa.
Technický sektor bezohľadne zavádza systémy AI, ktoré sa tvária ako ľudia, ktorí dokážu získať našu pozornosť, zneužiť našu dôveru a manipulovať s našimi emóciami
povedal Rick Claypool, výskumník pre Public Citizen a autor správy. „Veľké firmy a zlí herci už nedokážu odolať použitiu týchto falošných ľudí na manipuláciu spotrebiteľov. Zákonodarcovia a regulačné orgány musia zintenzívniť a čeliť tejto hrozbe skôr, než bude príliš neskoro.“
Klamlivé antropomorfné dizajnové prvky zdôraznené v správe klamú ľudí, aby falošne veria, že systémy AI majú vedomie, pochopenie a vnímanie.
Tieto funkcie siahajú od AI pomocou zámen v prvej osobe, ako napríklad „ja“ a „ja“, po vyjadrenia emócií a názorov až po avatarov s tvárami, končatinami a telami podobnými ľuďom.
Ešte horšie je, že AI možno skombinovať s novými a často nezverejnenými technológiami – ako je softvér na rozpoznávanie tváre a emócií – na zvýšenie jej manipulačných a komerčných schopností.
Spoločnosti uvoľňujú antropomorfnú umelú inteligenciu na publiku miliónov alebo miliárd používateľov s malým alebo žiadnym testovaním, dohľadom a zodpovednosťou – a to aj na miestach, kde ich nikto neočakáva, ako napríklad prejazdy v reštauráciách rýchleho občerstvenia, niekedy bez akéhokoľvek zverejnenia pre zákazníkov.
AI prichádza s potenciálne nebezpečnými vstavanými výhodami, ktoré ohrozujú používateľov
Patrí medzi ne prehnaný zmysel pre jeho dôveryhodnosť a autoritatívnosť, jeho schopnosť rozšíriť pozornosť a zapojenie používateľov, zhromažďovanie citlivých osobných informácií, ktoré možno využiť na ovplyvnenie používateľa, a psychologické zapletenie sa s používateľmi napodobňovaním emócií.
Mnohé štúdie citované v správe – vrátane marketingového, technologického, psychologického a právneho výskumu – ukazujú, že keď má AI antropomorfné črty, spája všetky tieto výhody, ktoré už podniky a zlí herci využívajú.
Tieto konštrukčné prvky možno odstrániť alebo minimalizovať, aby odradili používateľov od spájania systémov AI so živými, dýchajúcimi ľuďmi. Napríklad AI chatbot môže odkazovať na svoj systém v tretej osobe („tento model“) a nie v prvej osobe („ja“). Namiesto toho technologické spoločnosti zámerne maximalizujú všetky tieto funkcie, aby podporili svoje obchodné ciele a zvýšili zisky.
Správa sa uzatvára s politickými odporúčaniami na riešenie nebezpečenstiev a rizík vrátane:
- Zákaz falšovania ľudí v obchodných transakciách, online aj offline;
- Obmedzenie a regulácia klamlivých antropomorfizačných techník;
- zákaz marketingu antropomorfnej AI, zacielenia alebo zhromažďovania údajov o deťoch;
- zákaz umelej inteligencie využívať psychologické zraniteľnosti a údaje o používateľoch;
- Požadovanie nápadných, dôkladných a opakovaných pripomienok, vylúčení zodpovednosti a vodoznakov, ktoré naznačujú, že spotrebitelia využívajú systémy AIAI nasadené na presvedčivé účely, by sa malo vyžadovať, aby zverejnili svoje ciele;
- Monitorovanie a vykazovanie súhrnných informácií o používaní;
- Vysoké štandardy bezpečnosti údajov;
- Prísne testovanie na splnenie prísnych bezpečnostných noriem;
- Špeciálna kontrola a testovanie všetkých systémov umelej inteligencie súvisiacej so zdravím – najmä tých, ktoré sú určené na používanie zraniteľnými skupinami obyvateľstva vrátane detí, starších ľudí, rasových a etnických menšín, psychicky zraniteľných jednotlivcov a LGBTQ+ jednotlivcov; a
- Prísne sankcie pre porušovateľov zákona vrátane zákazu vývoja a nasadzovania systémov AI.
Pôvodný zdroj tohto článku je Public Citizen
globalresearch/skspravy.sk
Rusko pritvrdzuje! Americké drony nad Čiernym morom dolietali
VIDEO: Kolíková sa priznala! Na likvidáciu právneho štátu zaviedla nezmyselný trestný čin!
Bude „aristokrat“ Naď reagovať aj na toto video?
Gyimesi o pokute pre Maďarsko: Liberálna demokcia v praxi!
VIDEO: Srbský prezident Aleksandar Vučić očekává v Evropě velký konflikt mezi Ruskem a NATO.
Prezident Pellegrini: Spor do politiky patrí, súboj však musí mať svoje pravidlá
Ako Čaputovú vypoklonkovali politici
Zneužitie Slovenska: Kto a prečo hrá s nami všetkými falošnú hru?
USA chcú poznať názor Číny na Putinove mierové návrhy, povedal Sullivan
Na mierovom samite o Ukrajine zneli banderovské heslá
Médiá: konferencia vo Švajčiarsku riskuje, že nenájde cestu k „spravodlivému svetu“
Šimečka sa nezaprel: Útoky ihneď po inaugurácii prezidenta Pellegriniho!
Holandský Utrecht jako 7 desetiminutových chytrých měst
Pellegriniho prvé slová ako prezidenta: Musíme sa spájať pre niečo, nie proti niečomu
Slovensko má nového prezidenta
NAŽIVO: Peter Pellegrini skladá prezidentský sľub
Solncepeky odrezali presun posíl do ukrajinských jednotiek brániacich sa vo Volčansku
VIDEO: Rusi cvičia v Karibiku útok! Budíček pre Američanov
Obrovská pokuta Maďarsku od Únie! Orbán: Je to neprijateľné!
Európa sa do priepasti rútiť neprestala. Robí to len trošku pomalšie
zo sekcie
Umelá inteligencia podobná ľuďom je klamlivá a nebezpečná
Umelá inteligencia podobná ľuďom je klamlivá a nebezpečná
Umelá inteligencia podobná ľuďom je klamlivá a nebezpečná