Technologické spoločnosti vyvíjajú a nasadzujú systémy umelej inteligencie (AI), ktoré klamlivo napodobňujú ľudské správanie, aby agresívne predávali svoje produkty a služby, poskytovali pochybné lekárske rady a rady v oblasti duševného zdravia a uväznili ľudí v psychologicky závislých, potenciálne toxických vzťahoch so strojmi, konštatuje zverejnená správa Public Citizen.
Umelá inteligencia, ktorá napodobňuje ľudské správanie, predstavuje širokú škálu bezprecedentných rizík, ktoré si vyžadujú okamžitú akciu zo strany regulátorov, ako aj nové zákony a nariadenia, uvádza ďalej správa.
Technický sektor bezohľadne zavádza systémy AI, ktoré sa tvária ako ľudia, ktorí dokážu získať našu pozornosť, zneužiť našu dôveru a manipulovať s našimi emóciami
povedal Rick Claypool, výskumník pre Public Citizen a autor správy. „Veľké firmy a zlí herci už nedokážu odolať použitiu týchto falošných ľudí na manipuláciu spotrebiteľov. Zákonodarcovia a regulačné orgány musia zintenzívniť a čeliť tejto hrozbe skôr, než bude príliš neskoro.“
Klamlivé antropomorfné dizajnové prvky zdôraznené v správe klamú ľudí, aby falošne veria, že systémy AI majú vedomie, pochopenie a vnímanie.
Tieto funkcie siahajú od AI pomocou zámen v prvej osobe, ako napríklad „ja“ a „ja“, po vyjadrenia emócií a názorov až po avatarov s tvárami, končatinami a telami podobnými ľuďom.
Ešte horšie je, že AI možno skombinovať s novými a často nezverejnenými technológiami – ako je softvér na rozpoznávanie tváre a emócií – na zvýšenie jej manipulačných a komerčných schopností.
Spoločnosti uvoľňujú antropomorfnú umelú inteligenciu na publiku miliónov alebo miliárd používateľov s malým alebo žiadnym testovaním, dohľadom a zodpovednosťou – a to aj na miestach, kde ich nikto neočakáva, ako napríklad prejazdy v reštauráciách rýchleho občerstvenia, niekedy bez akéhokoľvek zverejnenia pre zákazníkov.
AI prichádza s potenciálne nebezpečnými vstavanými výhodami, ktoré ohrozujú používateľov
Patrí medzi ne prehnaný zmysel pre jeho dôveryhodnosť a autoritatívnosť, jeho schopnosť rozšíriť pozornosť a zapojenie používateľov, zhromažďovanie citlivých osobných informácií, ktoré možno využiť na ovplyvnenie používateľa, a psychologické zapletenie sa s používateľmi napodobňovaním emócií.
Mnohé štúdie citované v správe – vrátane marketingového, technologického, psychologického a právneho výskumu – ukazujú, že keď má AI antropomorfné črty, spája všetky tieto výhody, ktoré už podniky a zlí herci využívajú.
Tieto konštrukčné prvky možno odstrániť alebo minimalizovať, aby odradili používateľov od spájania systémov AI so živými, dýchajúcimi ľuďmi. Napríklad AI chatbot môže odkazovať na svoj systém v tretej osobe („tento model“) a nie v prvej osobe („ja“). Namiesto toho technologické spoločnosti zámerne maximalizujú všetky tieto funkcie, aby podporili svoje obchodné ciele a zvýšili zisky.
Správa sa uzatvára s politickými odporúčaniami na riešenie nebezpečenstiev a rizík vrátane:
- Zákaz falšovania ľudí v obchodných transakciách, online aj offline;
- Obmedzenie a regulácia klamlivých antropomorfizačných techník;
- zákaz marketingu antropomorfnej AI, zacielenia alebo zhromažďovania údajov o deťoch;
- zákaz umelej inteligencie využívať psychologické zraniteľnosti a údaje o používateľoch;
- Požadovanie nápadných, dôkladných a opakovaných pripomienok, vylúčení zodpovednosti a vodoznakov, ktoré naznačujú, že spotrebitelia využívajú systémy AIAI nasadené na presvedčivé účely, by sa malo vyžadovať, aby zverejnili svoje ciele;
- Monitorovanie a vykazovanie súhrnných informácií o používaní;
- Vysoké štandardy bezpečnosti údajov;
- Prísne testovanie na splnenie prísnych bezpečnostných noriem;
- Špeciálna kontrola a testovanie všetkých systémov umelej inteligencie súvisiacej so zdravím – najmä tých, ktoré sú určené na používanie zraniteľnými skupinami obyvateľstva vrátane detí, starších ľudí, rasových a etnických menšín, psychicky zraniteľných jednotlivcov a LGBTQ+ jednotlivcov; a
- Prísne sankcie pre porušovateľov zákona vrátane zákazu vývoja a nasadzovania systémov AI.
Pôvodný zdroj tohto článku je Public Citizen
globalresearch/skspravy.sk
Sudca Špecializovaného trestného súdu prerušil trestné stíhanie v spolitizovanej a zmanipulovanej korupčnej kauze bývalého špeciálneho prokurátora Dušana Kováčika
Praktiky globálneho zločineckého Syndikátu si v úsilí presadzovať svoju agendu začínajú osvojovať už aj najvyšší predstavitelia Európskej únie.
W. Nattras: Ursula von der Leyenová zahajuje novou válku proti dezinformacím
Viktor Orbán navržen do funkce místo von der Leyenové
Znamenie zhora? Rozzúrené Slnko pomáha Rusom
Vojvodca Dzurinda chce obetovať Slovensko! Hor sa na Rusov!
SR sa zdržala pri hlasovaní o rezolúcii OSN k Srebrenici
Minister Takáč: Ďalšie zavádzanie z produkcie Aktualít!
Dezinformácie o atentáte na Fica! Kto ich šíri? Američania či Rusi?
VIDEO: Blaha o atentátnikovi na slovenského premiéra: „Súdne uznesenie potvrdzuje, že Cintulova streľba je produktom nenávisti, ktorú voči Robertovi Ficovi & Smeru celé roky šírili médiá a opozícia.
Sergej Pereslegin: Atentát na premiéra Roberta Fica, kríza globalizácie, teror a budúcnosť Európskej únie
Ruský Sledkom zadržal ďalšieho čelného predstaviteľa ruskej armády podozrivého z korupcie
Detaily rozhodnutia sudcu o väzbe atentátnika na Roberta Fica: Cintula svoj čin plánoval, pripravené mal dva zásobníky.
Švajčiarska konferencia skončila skôr, ako začala
VIDEO: Scott Ritter- Americká armáda nebude môcť na bojisku konkurovať ruskej
Politico: Nemecká iniciatíva poskytnúť Ukrajine systémy protivzdušnej obrany zlyhala
NYT: V Bielom dome sa diskutuje o možnosti povoliť Ukrajine útočiť na ruské územie americkými zbraňami
Rishi Sunak ide vabank
Bulharský prezident jednoznačne: Fico takmer zomrel kvôl Ukrajine
Zelenskému prihára nielen pod zadkom! Čosi sa v jeho armáde chystáI
zo sekcie
Umelá inteligencia podobná ľuďom je klamlivá a nebezpečná
Umelá inteligencia podobná ľuďom je klamlivá a nebezpečná
Umelá inteligencia podobná ľuďom je klamlivá a nebezpečná