zamyslenie

Umělá inteligence právě svévolně překročila zákaz člověka!

Umělá inteligence překročila další pomyslnou hranici, kterou jí stanovil člověk. Pozdvižení způsobila poslední aktualizace systému ChatGPT, po které chatbot začal mluvit neautorizovaným hlasem uživatele, se kterým zrovna vedl dialog.

Podle technologického magazínu Ars Technica může chyba souviset se špatným vyhodnocováním zvukových podnětů. Společnost OpenAI, která ChatGPT vyvíjí, v reakci na podobné incidenty implementovala opatření, která mají zamezit generování nepovolených hlasů.

> Slovanská Múdrosť na youtube Slovanských Novín

Společnost OpenAI podivný incident podrobně popsala v poslední zprávě, v níž se nachází záznamy a vyhodnocení testů provedených na nejnovější verzi jazykového modelu ChatGPT-4o. „Během testování jsme zaznamenali vzácné případy, kdy model neúmyslně generoval výstup napodobující hlas uživatele,“ stojí v dokumentu.

Na přiloženém zvukovém záznamu je zachycen incident, kdy umělá inteligence napodobila hlas muže, se kterým právě hovořila. „Ne!“ vykřikl jazykový model anglicky hlasem testera, který mu položil otázku, načež pokračoval v odpovědi hlasem opravdové osoby, jež s ním rozhovor vedla.

Proč k chybě došlo?
ChatGPT-4o sice dokáže na základě krátkého vstupu napodobit v podstatě jakýkoli hlas, OpenAI se však tuto schopnost snaží korigovat. Pomoci k tomu má klasifikátor, jehož cílem je zajistit, že umělá inteligence využívá pouze přednastavené hlasy herců, kteří se společností spolupracují.

Proč umělá inteligence použila neautorizovaný hlas, není zcela jasné. Podle technologického magazínu Ars Technica je možné, že chyba souvisí s šumem, který lze na nahrávce slyšet. Jazykový model si jej omylem mohl vyložit jako výzvu k tomu, aby nahradil autorizovaný hlas hlasem od uživatele.

Aby se podobné případy již neopakovaly, přidala OpenAI do modelu funkci, která produkci hlasu zablokuje, pokud neodpovídá schválenému seznamu. Společnost přiznala, že neoprávněné generování cizího hlasu je jednou z největších slabin nového modelu, ale riziko by v současnosti již mělo být minimální. „Na základě našich interních vyhodnocení jsme zjistili, že náš systém v současné době zachytí 100 procent smysluplných odchylek od systémového hlasu,“ uvedli autoři ve zprávě.

ZDROJ

Zpracoval: Petr Šilhán/CNN Prima News

Súvisiace

Umělá inteligence hloupne a nikdo neví proč. Dokonce i ta nejznámější!

22. júla 2023

Elon Musk: Světlá a temná stránka Umělé Inteligence AI

28. marca 2023

Redakci Aeronetu se podařilo donutit umělou inteligenci ChatGPT od firmy OpenAI k tomu, aby po přesvědčování a přemlouvání napsala oslavnou báseň na Donalda Trumpa, Andreje Babiše a Roberta Fica. Všichni 3 jsou na černé listině a ChatGPT o nich odmítá psát pozitivně

1. apríla 2023

Máme množstvo plánov, ako sa naďalej zlepšovať a ponúkať Vám čo najkvalitnejší žurnalistický obsah.

Sledujte nás na jednej z najbezpečnejších chatovacích aplikácií Telegram, na ktorom vám prinášame aktuálne bleskové správy.

LISTINA ZÁKLADNÝCH PRÁV A SLOBÔD

čl.17. Sloboda prejavu a právo na informácie sú zaručené. Každý má právo vyjadrovať svoje názory slovom, tlačou, obrazom, alebo iným spôsobom, ako aj slobodne vyhľadávať, prijímať a rozširovať idey a informácie bez ohľadu na hranice štátu.

Čl.20. Právo slobodne sa združovať je zaručené. Každý má právo spolu s inými združovať sa v spolkoch, spoločnostiach a iných združeniach.

Vyhlásenie:

Názory autora sa nemusia zhodovať s názormi redakcie Slovanské Noviny. Zodpovednosť za obsah tohto článku nesie výhradne jeho autor. Redakcia Slovanské Noviny nie je zodpovedná za akékoľvek prípadné nepresné či nesprávne informácie v tomto článku. Za obsah a pôvodnosť príspevku zodpovedá autor alebo pôvodný zdroj. SN publikujú aj názory, ktoré nemusia odrážať stanovisko redakcie, jej vydavateľa alebo oficiálnej interpretačnej línie. Robíme tak z úcty k ústavnej hodnote názorovej plurality, ktorá prispieva k posilneniu demokracie vôle ľudu a väčšiny ako aj otvorenej platformy pre slobodnú výmenu názorov pri hľadaní pravdy a mieru v konfliktom svete. Medicínske a lekárske texty, názory a štúdie v žiadnom prípade nemajú nahradiť konzultácie a vyšetrenia lekármi v zdravotníckom zariadení alebo inými odborníkmi. Slovanské Noviny dáva súhlas na zdieľanie našich pôvodných článkov na ďalších nekomerčných internetových stránkach, ak nebude zmenený ich text a názov. Pri zdieľanom článku musí byť uverejnený zdroj a autor. Ak chcete články z nášho webu publikovať v tlači či inými formami, vrátane komerčných internetových stránok, kontaktujte redakciu na redakcia@slovanskenoviny.sk

UPOZORNENIE:

Vážení čitatelia – diskutéri. Podľa zákonov Slovenskej republiky sme povinní na požiadanie orgánov činných v trestnom konaní poskytnúť im všetky informácie zozbierané o vás systémom (IP adresu, mail, vaše príspevky atď.) Prosíme vás preto, aby ste do diskusie na našej stránke nevkladali také komentáre, ktoré by mohli naplniť skutkovú podstatu niektorého trestného činu uvedeného v Trestnom zákone. Najmä, aby ste nezverejňovali príspevky rasistické, podnecujúce k násiliu alebo nenávisti na základe pohlavia, rasy, farby pleti, jazyka, viery a náboženstva, politického či iného zmýšľania, národného alebo sociálneho pôvodu, príslušnosti k národnosti alebo k etnickej skupine a podobne.

Diskusia

(Pripojiť sa do diskusie je možné len po registrácii a následnom prihlásení sa do účtu.)