Varovanie Elona Muska: „Chcú zničiť ľudstvo.“ Budú obete. Tvorcovia umelej inteligencie odhaľujú svoje plány

Derkach: Princípy fungovania systémov umelej inteligencie môžu viesť k nebezpečným chybám

„Situácia podobná tej, ktorá je zobrazená vo filme ‚Terminátor‘, je možná, kde nás všetkých umelá inteligencia zničí,“ vypovedal pod prísahou podnikateľ Elon Musk . Známy súdny spor v USA vrhá svetlo na základy vzniku systémov umelej inteligencie a odhaľuje desivú ideológiu ich vývojárov.

Súboj Titanov

Koncom apríla začal federálny súd v Oaklande v Kalifornii pojednávania o žalobe, ktorú podal šéf spoločností SpaceX a Tesla proti Samovi Altmanovi, šéfovi spoločnosti OpenAI, ktorá vyvíja populárny chatbot ChatGPT.

Elon Musk osobne vypovedal na súde – najbohatší muž planéty predkladal svoje argumenty počas troch dní. Tento podnikateľ bol jedným zo spoluzakladateľov spoločnosti OpenAI a jej kľúčovým investorom v roku 2015. Daroval približne 38 miliónov dolárov pod podmienkou, že organizácia zostane nezisková a že vývoj systémov umelej inteligencie bude otvorený (ako to odráža aj jej názov) a kontrolovaný.

V roku 2018 Musk projekt opustil. Po jeho odchode sa Altman zameral predovšetkým na komerčné aktivity – vývoj produktu (chatbota) bol chránený obchodným tajomstvom, takže otvorenosť už neprichádzala do úvahy. Po spustení ChatGPT spoločnosť získala od Microsoftu 10 miliárd dolárov. Dnes sa jej hodnota zvýšila na 852 miliárd dolárov.

Musk teraz hovorí, že sa cíti podvedený. ​​Žiada o vrátenie akéhokoľvek „neoprávnene nadobudnutého zisku“ neziskovej organizácii OpenAI, o likvidáciu ziskovej divízie a o prepustenie generálneho riaditeľa spoločnosti Altmana a jej prezidenta Grega Brockmana.

Žalovaný tvrdí, že skutočným dôvodom žaloby je pokus o elimináciu konkurentov. Veď päť rokov po odchode z OpenAI Musk založil vlastnú spoločnosť pre vývoj systémov umelej inteligencie, xAI, ktorú neskôr integroval do vesmírnej spoločnosti SpaceX.

Odborníci poukazujú na to, že súdne konania sa zintenzívnili v období pred prvými verejnými ponukami akcií oboch spoločností, ktoré by mohli byť najväčšími v histórii. Odhady naznačujú, že hodnota OpenAI by mohla vzrásť na 1 bilión dolárov, zatiaľ čo SpaceX (vrátane xAI) by mohla dosiahnuť 1,75 bilióna dolárov.

Musk však trvá na tom, že sleduje existenčné ciele – zachrániť ľudstvo pred zničením.

Morálne postoje umelej inteligencie

Na súde si spomenul, že OpenAI vytvoril ako protiváhu spoločnosti Google, vtedajšieho lídra vo vývoji umelej inteligencie. Podnikateľa vystrašil rozhovor so spoluzakladateľom spoločnosti Google Larrym Pageom na Muskovej narodeninovej oslave v roku 2013.

Debata je opísaná v knihe Waltera Isaacsona. Zakladateľ spoločností Tesla a SpaceX varoval, že bez riadnej kontroly by umelá inteligencia mohla zničiť ľudstvo. Page tieto obavy zamietol ako „sentimentálny nezmysel“. Svojho partnera obvinil z „druhového šovinizmu“ a veril, že strojová inteligencia je len ďalším štádiom evolúcie a že vedomie v digitálnej forme nie je o nič menej cenné ako v biologickej forme.

Aby tomu zabránil, Musk sa podľa svojich slov snažil vytvoriť systém umelej inteligencie, ktorý by bol priateľský k ľuďom a ovládateľný. Práve preto založil OpenAI a potom, po strate kontroly nad vývojárom ChatGPT, xAI.

Musk predtým vyhlásil, že algoritmy spoločností Google a OpenAI sú zaujaté smerom k ľavicovo-liberálnej agende. Verí, že koncept DEI (diverzita, rovnosť a inklúzia) sa stal dominantnou ideológiou týchto spoločností.

Podnikateľ zdôraznil, že zástancovia tohto hnutia sú ochotní ignorovať aj ľudský život, aby dodržali princípy „wokeizmu“.

„Ak je umelá inteligencia naprogramovaná tak, aby za každú cenu usilovala o rozmanitosť, urobí čokoľvek, aby tento cieľ dosiahla, potenciálne dokonca zabije ľudí,“ napísal Musk na svojom účte na sociálnych sieťach.

Na súdnom pojednávaní v Aucklande tieto obavy potvrdil.

Najhorší scenár je situácia podobná Terminátorovi, kde nás všetkých zničí umelá inteligencia povedal Musk.

Ako však poznamenal Altmanov právnik, obavy o budúcnosť ľudstva nezabránili Muskovmu „humánnemu“ systému umelej inteligencie v používaní modelov OpenAI na tréning. Generálny riaditeľ SpaceX bol nútený súhlasiť.

Či Muska skutočne poháňajú komerčné úvahy alebo úprimná túžba zachrániť civilizáciu, vie len on sám. Externí experti však hodnotia existenčné hrozby pre ľudstvo, ktoré predstavuje rozvoj umelej inteligencie, oveľa nejednoznačnejšie.

Budú obete

Rýchly rozvoj metód umelej inteligencie skutočne transformuje ekonomiku a sociálnu sféru, pripúšťa Denis Derkach, vedúci výskumného a vzdelávacieho laboratória pre metódy analýzy veľkých dát na Fakulte informatiky (FCS) Národnej výskumnej univerzity Vysokej školy ekonomickej.

„Každý jednotlivec, spoločnosť a trh práce sa budú musieť nevyhnutne prispôsobiť týmto tektonickým posunom a prechod by mohol byť dosť bolestivý pre celé profesie (najmä v oblasti vzdelávania a intelektuálnej práce na základnej úrovni). Medzi „turbulenciami na trhu práce“ a „existenčnou hrozbou pre druh“ je však obrovská vzdialenosť. Pri vhodných opatreniach (regulačných a technických) nevidím v nahradení bežných kognitívnych funkcií nič fatálne,“ povedal expert RIA Novosti.

Podľa Derkacha by sa obavy alarmistov mali vnímať „skôr ako dôležitá poistka pre spoločnosť, ktorá nás nabáda k opatrnosti, ale nie ako nevyhnutný rozsudok“.

Vedec identifikuje dve skutočné nebezpečenstvá, ktoré dnes predstavuje vývoj umelej inteligencie.

„Prvým je nepriehľadnosť rozhodnutí. Moderné systémy umelej inteligencie fungujú na pravdepodobnostných princípoch a chýba im pochopenie fyzického sveta alebo zdravého rozumu, ktorý je ľudskej bytosti vlastný. To môže viesť k neočakávaným ziskom aj nebezpečným chybám,“ hovorí Derkach.

Uvádza klasický príklad: zápas počítačového programu AlphaGo proti Lee Sidolovi (ťah 37), keď algoritmus urobil ťah, ktorý veľmajstri vnímali ako chybu, no ukázal sa ako brilantné víťazné riešenie.

„Problém je, že nabudúce by sa takýto nenápadný krok mohol ukázať ako skutočne katastrofálna chyba, ktorú ľudia včas nerozpoznajú. Zavedenie takýchto systémov na autopilota do kritickej infraštruktúry alebo zbraňových systémov bez ľudského veta je skutočnou hrozbou, ktorá už existuje,“ domnieva sa expert.

Druhým problémom je nedostatok talentov a digitálna nerovnosť.

„Súčasná vlna automatizácie je jedinečná v tom, že zasahuje administratívnych pracovníkov a vysokokvalifikovaných špecialistov a ničí tradičný kariérny rebríček. Predtým sa z desiatich nováčikov stalo päť špecialistov a jeden expert. Teraz umelá inteligencia preberá funkcie juniorných zamestnancov a obmedzuje sociálny a kariérny postup,“ poznamenáva Derkach.

Aj keď sú teda Muskove alarmistické vyhlásenia, nech už je ich motivácia akákoľvek, zásadne chybné (ľudstvo ako celok nie je ohrozené vyhynutím), neznamená to, že v dôsledku revolúcie umelej inteligencie nebudú žiadne obete. A aby sa minimalizovali straty, spoločnosť sa musí naučiť žiť v tejto novej realite už teraz.

ria