Umelá inteligencia: hrozba pre civilizáciu a ľudstvo?

Ako veľmi by sme sa mali ako civilizácia obávať umelej inteligencie za predpokladu, že chceme pokračovať v existencii? Nedávno som sedel na podcaste s Nicolasom Creedom a redaktorom The Daily Bell Joe Jarvisom, aby sme diskutovali o existenciálnej hrozbe alebo jej nedostatku, ktorú predstavuje nekontrolovaná umelá inteligencia (AI).

Joe, ktorý hrá diablovho advokáta, bol nadšený z AI ako čistého pozitíva pre ľudstvo. Nicolas a ja sme boli menej optimistickí. Všetci sme sa zhodli, že určujúcim faktorom bude spôsob, akým sa vyvíja – kým, na aké účely a s akými opatreniami, ak nejaké existujú.

K nám v tíme Skeptic sa teraz pripája množstvo skúsených profesionálov v oblasti AI. Jedna taká postava napríklad nedávno doslova vyzvala na bombardovanie dátových centier AI, ktoré poskytujú vstupy pre „poznávanie AI“.

Cez futurizmus :

Jeden z najhlasnejších kritikov umelej inteligencie na svete dôrazne vyzval, aby sme umelú inteligenciu nielen zastavili, ale aj militantne s ňou skoncovali – skôr, ako to ona skončí s nami…

Výskumník v oblasti strojového učenia Eliezer Yudkowsky, ktorý už viac ako dve desaťročia varuje pred dystopickou budúcnosťou, ktorá príde, keď dosiahneme umelú všeobecnú inteligenciu (AGI), opäť zvoní na poplach.“

Pre referenciu uveďme, že „umelá všeobecná inteligencia“ alebo AGI je všeobecne definovaná ako„reprezentácia zovšeobecnených ľudských kognitívnych schopností v softvéri tak, aby systém AGI, konfrontovaný s neznámou úlohou, mohol nájsť riešenie. Zámer systému AGI je vykonávať akúkoľvek úlohu, ktorej je ľudská bytosť schopná.”

„Yudkowsky povedal, že hoci chváli signatárov nedávneho otvoreného listu Inštitútu budúcnosti života – medzi ktoré patrí generálny riaditeľ SpaceX Elon Musk, spoluzakladateľ spoločnosti Apple Steve Wozniak a bývalý kandidát na prezidenta Andrew Yang – vyzývajúci na šesťmesačnú prestávku v rozvoji AI, aby som to bilancoval, sám to nepodpísal, lebo to nezachádza dosť ďaleko.“

Varovný list podpísaný Elonom Muskom a ďalšími významnými verejnými osobnosťami, o ktorých sa Yudkowksy zmieňuje , čiastočne znie:

Mali by sme vyvinúť neľudské mysle, ktoré by nás mohli časom prevýšiť, prekabátiť, zastarať a nahradiť nás? Mali by sme riskovať stratu kontroly nad našou civilizáciou? Takéto rozhodnutia sa nesmú delegovať na nevolených technologických lídrov.

„Výkonné systémy umelej inteligencie by sa mali vyvíjať len vtedy, keď sme si istí, že ich účinky budú pozitívne a ich riziká budú zvládnuteľné. “

Iné ťažké váhy AI zopakovali podobné pocity, vrátane „krstného otca umelej inteligencie“, Geoffreyho Hintona, ktorý uviedol „malé riziko“, že by umelá inteligencia bola zmarom ľudstva.

Vrátiac sa k Yudkowského výzve do doslovných zbraní, aby zastavil vzostup AI, nastoľuje základný problém, ktorý som už naznačil inde, vytvorenia inteligencie, ktorá prekračuje kognitívne limity ľudstva.

Bez účinných zábran, ktoré by zabránili tomu, aby sa to stalo nedbanlivosťou voči ľudskému blahobytu alebo priamo nepriateľským voči ľudskému životu, sme vo vážnej nevýhode:

„Nie je to tak, že by ste v princípe nemohli prežiť vytváranie niečoho oveľa inteligentnejšieho, ako ste vy,“ uvažoval, „ide o to, že by to vyžadovalo presnosť a prípravu a nové vedecké poznatky a pravdepodobne nebyť systémov umelej inteligencie zložených z obrovských nevyspytateľných polí, len zlomkových čísiel“.

Podobne ako biomedicínski výskumníci, ktorí využívajú výskum ziskovosti funkcií na potlačenie vírusov, aj inžinieri AI v súčasnosti pracujú na vytváraní stále inteligentnejšej AI nevedia, čo robia .

Zasahujú, bezohľadne a zbytočne, do síl, ktorým nerozumejú, kedy by si obozretný postup vyžadoval predchádzajúce štúdium.

Ako sa nedávno uvádzalo na inom mieste, AI veľmi nedávno vyvinula to, čo filozofi a biológovia nazývajú „teória mysle“. To znamená, že má novoobjavenú živú schopnosť zarámovať sa do stavu mysle inej osoby alebo veci a potom podľa toho strategicky konať.

Možno nie je rozumné podpísať výzvy na kinetické bombardovanie informačných skladov, ale tento vývoj by určite mal slúžiť ako dôvod na prestávku, aby sme sa popasovali so širokými dôsledkami tejto technológie.

Ben Bartee

O autorovi: Ben Bartee je nezávislý americký novinár so sídlom v Bangkoku s „opačnými palcam“i.

Tento článok bol pôvodne publikovaný na The Daily Bell 

skspravy

.

Máme množstvo plánov, ako sa naďalej zlepšovať a ponúkať Vám čo najkvalitnejší žurnalistický obsah.

Sledujte nás na jednej z najbezpečnejších chatovacích aplikácií Telegram, na ktorom vám prinášame aktuálne bleskové správy.

 

 

LISTINA ZÁKLADNÝCH PRÁV A SLOBÔD

čl.17. Sloboda prejavu a právo na informácie sú zaručené. Každý má právo vyjadrovať svoje názory slovom, tlačou, obrazom, alebo iným spôsobom, ako aj slobodne vyhľadávať, prijímať a rozširovať idey a informácie bez ohľadu na hranice štátu.

Čl.20. Právo slobodne sa združovať je zaručené. Každý má právo spolu s inými združovať sa v spolkoch, spoločnostiach a iných združeniach.

Vyhlásenie:

Názory autora sa nemusia zhodovať s názormi redakcie Slovanské Noviny. Zodpovednosť za obsah tohto článku nesie výhradne jeho autor. Redakcia Slovanské Noviny nie je zodpovedná za akékoľvek prípadné nepresné či nesprávne informácie v tomto článku. Za obsah a pôvodnosť príspevku zodpovedá autor alebo pôvodný zdroj. SN publikujú aj názory, ktoré nemusia odrážať stanovisko redakcie, jej vydavateľa alebo oficiálnej interpretačnej línie. Robíme tak z úcty k ústavnej hodnote názorovej plurality, ktorá prispieva k posilneniu demokracie vôle ľudu a väčšiny ako aj otvorenej platformy pre slobodnú výmenu názorov pri hľadaní pravdy a mieru v konfliktom svete. Medicínske a lekárske texty, názory a štúdie v žiadnom prípade nemajú nahradiť konzultácie a vyšetrenia lekármi v zdravotníckom zariadení alebo inými odborníkmi. Slovanské Noviny dáva súhlas na zdieľanie našich pôvodných článkov na ďalších nekomerčných internetových stránkach, ak nebude zmenený ich text a názov. Pri zdieľanom článku musí byť uverejnený zdroj a autor. Ak chcete články z nášho webu publikovať v tlači či inými formami, vrátane komerčných internetových stránok, kontaktujte redakciu na [email protected]

UPOZORNENIE:

Vážení čitatelia – diskutéri. Podľa zákonov Slovenskej republiky sme povinní na požiadanie orgánov činných v trestnom konaní poskytnúť im všetky informácie zozbierané o vás systémom (IP adresu, mail, vaše príspevky atď.) Prosíme vás preto, aby ste do diskusie na našej stránke nevkladali také komentáre, ktoré by mohli naplniť skutkovú podstatu niektorého trestného činu uvedeného v Trestnom zákone. Najmä, aby ste nezverejňovali príspevky rasistické, podnecujúce k násiliu alebo nenávisti na základe pohlavia, rasy, farby pleti, jazyka, viery a náboženstva, politického či iného zmýšľania, národného alebo sociálneho pôvodu, príslušnosti k národnosti alebo k etnickej skupine a podobne.

Diskusia

(Pripojiť sa do diskusie je možné len po registrácii a následnom prihlásení sa do účtu.)