Systémy umělé inteligence s „nepřijatelným rizikem budou zakázány“, píše Evropský parlament, ale …

Evropský parlament považuje za nepřijatelná rizika například kognitivní manipulaci s chováním lidí, přidělování sociálního kreditu nebo biometrické identifikační systémy v reálném čase a na dálku. Ale …

„Systémy umělé inteligence (AI) s nepřijatelným rizikem jsou systémy, které jsou považovány za hrozbu pro člověka a budou zakázány,“ píše se na webu Evropského parlamentu (EP) k chystané legislativě.

Někteří europoslanci vidí v AI „příležitosti“ k rozvíjení vědy, techniky a vzdělávání, jiní tvrdí, že tato technologie změní způsob lidské existence nebo ohrozí bezpečnost a zdraví lidstva.

Co myslí europoslanci oněmi „nepřijatelnými riziky“ a na co by rádi AI použili?

Evropský parlament považuje za nepřijatelná rizika například kognitivní manipulaci s chováním lidí, přidělování sociálního kreditu nebo biometrické identifikační systémy v reálném čase a na dálku.

Konkrétně zmiňují jako nebezpečné vytvářet systémy, které by klasifikovaly lidi na základě chování, socioekonomického statusu nebo osobních charakteristik, a shrnovaly je do zmiňovaného sociálního kreditu. V praxi byly již podobné systémy zavedeny v určitých oblastech Číny.

Fungují tak, že Komunistická strana vytyčí způsoby přijatelného chování, komunikace a myšlení, a pokud je dotyčný splňuje, může běžně používat svůj účet, libovolně cestovat, mít prestižní pozici v zaměstnání. Pokud se však začne odchylovat, kredity se sníží a dotyčný člověk bude omezen v mnoha aspektech svobodného života.

Dalším nebezpečím je podle europoslanců rozpoznávání obličeje na základě biometrických identifikačních systémů. Zde je možné podle určitých křivek nebo bodů na tváři člověka rozpoznat jeho identitu, a tedy pomocí kamer rozpoznávat, kdo je právě na záběru kamery.

Europoslanci však vidí jako nepřijatelné nebezpečí pouze použití tohoto systému „v reálném čase a na dálku“. Použití identifikace „se značným zpožděním bude povoleno pro stíhání závažných trestných činů a pouze po schválení soudem“, uvádějí již míněné webové stránky EP.

Vysoce rizikové systémy AI

Systémy AI, které „mají negativní dopad na bezpečnost nebo základní práva“, mají být podle EP považovány za „vysoce rizikové“. Takové systémy by měly být podle europoslanců „posuzovány před uvedením na trh a v průběhu celého životního cyklu“.

Jedná se o systémy umístěné v leteckém a kosmickém průmyslu, automobilech, zdravotnických prostředcích, výtazích a hračkách.

Poslanci také vytyčili systémy AI, které budou muset být registrovány v databázi EU. Jedná se o tyto oblasti:

• biometrická identifikace a kategorizace fyzických osob
• správa a provoz kritické infrastruktury
• vzdělávání a odborná příprava
• zaměstnanost, řízení pracovní síly a přístup k samostatné výdělečné činnosti
• přístup k základním soukromým a veřejným službám a dávkám a jejich využívání
• vymáhání práva
• řízení migrace, azylu a ochrany hranic
• pomoc s právním výkladem a vymáháním práva

Generativní umělá inteligence

Podle usnesení europoslanců by měli být uživatelé digitálních technologií „informováni o tom, že interagují s AI“. Generativní umělá inteligence, jako je ChatGPT, bude muset podle EP „splňovat požadavky na transparentnost“ a tyto požadavky specifikují v následujících třech bodech:

• zveřejnit, že obsah byl vygenerován umělou inteligencí
• navrhnout model tak, aby zabránil vytváření nezákonného obsahu
• zveřejňovat shrnutí dat chráněných autorským právem, která byla použita k tréninku umělé inteligence

Hranice, rizika a zachování lidskosti

Podle francouzského poslance Gillese Lebretona z parlamentní skupiny Identita a demokracie, jsou zásadní oblasti – zejména armáda, justice a zdraví, v nichž „umělá inteligence nikdy nesmí nahradit nebo zbavit člověka odpovědnosti“.

Někteří poslanci, podle zprávy EP, také zdůrazňují nutnost lidského dohledu nad systémy AI používanými v obraně a opakovaně vyzývali k „zákazu autonomních smrtících zbraní“.

Někteří experti váží technologický pokrok na miskách vah – hodnotí je kriticky a zvažují pro a proti.

Například Aaron Kheriathy, ředitel programu Bioetika a americká demokracie v americkém Centru pro etiku a veřejnou politiku, uvádí, že „na jedné straně nám technologie přináší mnoho skvělých věcí, jak udělat lidský život lepším. Na druhé straně se někdy objevují obavy, že se využívání technologií může dostat do bodu, kdy už nezlepšují zdraví a vzkvétání lidí – a vlastně nás odlidšťují.“

„Někteří říkají, že technologie jsou nebezpečné, protože vytvářejí věci, jako je atomová bomba,“ dodává Kheriathy, který sice působí na jiném kontinentu, ale spolu s dalšími vědci vystupuje v dokumentárním snímku Altered Humans, hledajícím odpovědi na vliv biotechnologií na člověka.

„Druhý extrém je oslavování jakékoliv technologie, jako automaticky dobré věci nebo naivní předpokládání, že každá technologie je neutrální, že je pouze nástrojem, který se může použít dobře nebo špatně. Myslím, že to je příliš zjednodušené.“

„Myslím, že rozhodující je naše směřování, abychom zůstali lidmi během procházení velmi komplikovaným a mocným pokrokem biotechnologií a sledovacích technologií,“ říká Kheriathy.

Někteří europoslanci si představují, že by měla být umělá inteligence naprogramována tak, aby dohlížela na „výchovu“ obyvatelstva k vybrané ideologii.

S tím souvisí zpráva kterou 19. května 2021 přijal Evropský parlament o využívání umělé inteligence ve vzdělávání, kultuře a audiovizuálním odvětví. V ní požaduje, aby „technologie umělé inteligence byly navrženy tak, aby předcházely genderové, sociální nebo kulturní zaujatosti a chránily rozmanitost a diverzitu“.

Na druhé straně 6. října 2021 požádali europoslanci o přijetí přísných ochranných opatření pro využívání nástrojů umělé inteligence při vymáhání práva. Chtěli prosadit „trvalý zákaz automatického rozpoznávání osob ve veřejném prostranství“ a v zájmu boje proti diskriminaci transparentnost používaných algoritmů, uvádějí stránky EP.

Někteří europoslanci též uvádějí, že umělá inteligence sehraje „podstatnou úlohu“ i v realizaci takzvané Zelené dohody pro Evropu (Green Deal).

Investice EU do umělé inteligence

Již v roce 2020 uváděla Evropská komise, že chce „zvýšit soukromé a veřejné investice do technologií umělé inteligence na 20 miliard eur ročně“.

V prosinci 2023 uvedla Evropská rada, že investice do umělé inteligence v Evropě chce „urychlit“.

O několik měsíců dříve, v červnu 2023 zahájila Evropská komise, členské státy a 128 partnerů z oblasti výzkumu, průmyslu a veřejných organizací investice v hodnotě 220 milionů EUR do čtyř odvětvových testovacích a experimentálních zařízení pro AI. Z toho polovinu hradí přímo komise.

Tyto finance mají „podporovat vývojáře umělé inteligence při účinnějším uvádění důvěryhodné umělé inteligence na trh“ a usnadnit „její zavádění v Evropě“.

Investice „jsou otevřeny všem poskytovatelům technologií v celé Evropě, aby mohli testovat a experimentovat s umělou inteligencí a robotikou,“ uvádí Komise.

Zdroj: epochtimes.cz

.

Máme množstvo plánov, ako sa naďalej zlepšovať a ponúkať Vám čo najkvalitnejší žurnalistický obsah.

Sledujte nás na jednej z najbezpečnejších chatovacích aplikácií Telegram, na ktorom vám prinášame aktuálne bleskové správy.

 

 

LISTINA ZÁKLADNÝCH PRÁV A SLOBÔD

čl.17. Sloboda prejavu a právo na informácie sú zaručené. Každý má právo vyjadrovať svoje názory slovom, tlačou, obrazom, alebo iným spôsobom, ako aj slobodne vyhľadávať, prijímať a rozširovať idey a informácie bez ohľadu na hranice štátu.

Čl.20. Právo slobodne sa združovať je zaručené. Každý má právo spolu s inými združovať sa v spolkoch, spoločnostiach a iných združeniach.

Vyhlásenie:

Názory autora sa nemusia zhodovať s názormi redakcie Slovanské Noviny. Zodpovednosť za obsah tohto článku nesie výhradne jeho autor. Redakcia Slovanské Noviny nie je zodpovedná za akékoľvek prípadné nepresné či nesprávne informácie v tomto článku. Za obsah a pôvodnosť príspevku zodpovedá autor alebo pôvodný zdroj. SN publikujú aj názory, ktoré nemusia odrážať stanovisko redakcie, jej vydavateľa alebo oficiálnej interpretačnej línie. Robíme tak z úcty k ústavnej hodnote názorovej plurality, ktorá prispieva k posilneniu demokracie vôle ľudu a väčšiny ako aj otvorenej platformy pre slobodnú výmenu názorov pri hľadaní pravdy a mieru v konfliktom svete. Medicínske a lekárske texty, názory a štúdie v žiadnom prípade nemajú nahradiť konzultácie a vyšetrenia lekármi v zdravotníckom zariadení alebo inými odborníkmi. Slovanské Noviny dáva súhlas na zdieľanie našich pôvodných článkov na ďalších nekomerčných internetových stránkach, ak nebude zmenený ich text a názov. Pri zdieľanom článku musí byť uverejnený zdroj a autor. Ak chcete články z nášho webu publikovať v tlači či inými formami, vrátane komerčných internetových stránok, kontaktujte redakciu na [email protected]

UPOZORNENIE:

Vážení čitatelia – diskutéri. Podľa zákonov Slovenskej republiky sme povinní na požiadanie orgánov činných v trestnom konaní poskytnúť im všetky informácie zozbierané o vás systémom (IP adresu, mail, vaše príspevky atď.) Prosíme vás preto, aby ste do diskusie na našej stránke nevkladali také komentáre, ktoré by mohli naplniť skutkovú podstatu niektorého trestného činu uvedeného v Trestnom zákone. Najmä, aby ste nezverejňovali príspevky rasistické, podnecujúce k násiliu alebo nenávisti na základe pohlavia, rasy, farby pleti, jazyka, viery a náboženstva, politického či iného zmýšľania, národného alebo sociálneho pôvodu, príslušnosti k národnosti alebo k etnickej skupine a podobne.

Diskusia

(Pripojiť sa do diskusie je možné len po registrácii a následnom prihlásení sa do účtu.)