Umělá inteligence překročila další pomyslnou hranici, kterou jí stanovil člověk. Pozdvižení způsobila poslední aktualizace systému ChatGPT, po které chatbot začal mluvit neautorizovaným hlasem uživatele, se kterým zrovna vedl dialog.
Podle technologického magazínu Ars Technica může chyba souviset se špatným vyhodnocováním zvukových podnětů. Společnost OpenAI, která ChatGPT vyvíjí, v reakci na podobné incidenty implementovala opatření, která mají zamezit generování nepovolených hlasů.
Společnost OpenAI podivný incident podrobně popsala v poslední zprávě, v níž se nachází záznamy a vyhodnocení testů provedených na nejnovější verzi jazykového modelu ChatGPT-4o. „Během testování jsme zaznamenali vzácné případy, kdy model neúmyslně generoval výstup napodobující hlas uživatele,“ stojí v dokumentu.
Na přiloženém zvukovém záznamu je zachycen incident, kdy umělá inteligence napodobila hlas muže, se kterým právě hovořila. „Ne!“ vykřikl jazykový model anglicky hlasem testera, který mu položil otázku, načež pokračoval v odpovědi hlasem opravdové osoby, jež s ním rozhovor vedla.
Proč k chybě došlo?
ChatGPT-4o sice dokáže na základě krátkého vstupu napodobit v podstatě jakýkoli hlas, OpenAI se však tuto schopnost snaží korigovat. Pomoci k tomu má klasifikátor, jehož cílem je zajistit, že umělá inteligence využívá pouze přednastavené hlasy herců, kteří se společností spolupracují.
Proč umělá inteligence použila neautorizovaný hlas, není zcela jasné. Podle technologického magazínu Ars Technica je možné, že chyba souvisí s šumem, který lze na nahrávce slyšet. Jazykový model si jej omylem mohl vyložit jako výzvu k tomu, aby nahradil autorizovaný hlas hlasem od uživatele.
Aby se podobné případy již neopakovaly, přidala OpenAI do modelu funkci, která produkci hlasu zablokuje, pokud neodpovídá schválenému seznamu. Společnost přiznala, že neoprávněné generování cizího hlasu je jednou z největších slabin nového modelu, ale riziko by v současnosti již mělo být minimální. „Na základě našich interních vyhodnocení jsme zjistili, že náš systém v současné době zachytí 100 procent smysluplných odchylek od systémového hlasu,“ uvedli autoři ve zprávě.
Zpracoval: Petr Šilhán/CNN Prima News
.
Máme množstvo plánov, ako sa naďalej zlepšovať a ponúkať Vám čo najkvalitnejší žurnalistický obsah.
Sledujte nás na jednej z najbezpečnejších chatovacích aplikácií Telegram, na ktorom vám prinášame aktuálne bleskové správy.
LISTINA ZÁKLADNÝCH PRÁV A SLOBÔD
čl.17. Sloboda prejavu a právo na informácie sú zaručené. Každý má právo vyjadrovať svoje názory slovom, tlačou, obrazom, alebo iným spôsobom, ako aj slobodne vyhľadávať, prijímať a rozširovať idey a informácie bez ohľadu na hranice štátu.
Čl.20. Právo slobodne sa združovať je zaručené. Každý má právo spolu s inými združovať sa v spolkoch, spoločnostiach a iných združeniach.
Vyhlásenie:
Názory autora sa nemusia zhodovať s názormi redakcie Slovanské Noviny. Zodpovednosť za obsah tohto článku nesie výhradne jeho autor. Redakcia Slovanské Noviny nie je zodpovedná za akékoľvek prípadné nepresné či nesprávne informácie v tomto článku. Za obsah a pôvodnosť príspevku zodpovedá autor alebo pôvodný zdroj. SN publikujú aj názory, ktoré nemusia odrážať stanovisko redakcie, jej vydavateľa alebo oficiálnej interpretačnej línie. Robíme tak z úcty k ústavnej hodnote názorovej plurality, ktorá prispieva k posilneniu demokracie vôle ľudu a väčšiny ako aj otvorenej platformy pre slobodnú výmenu názorov pri hľadaní pravdy a mieru v konfliktom svete. Medicínske a lekárske texty, názory a štúdie v žiadnom prípade nemajú nahradiť konzultácie a vyšetrenia lekármi v zdravotníckom zariadení alebo inými odborníkmi. Slovanské Noviny dáva súhlas na zdieľanie našich pôvodných článkov na ďalších nekomerčných internetových stránkach, ak nebude zmenený ich text a názov. Pri zdieľanom článku musí byť uverejnený zdroj a autor. Ak chcete články z nášho webu publikovať v tlači či inými formami, vrátane komerčných internetových stránok, kontaktujte redakciu na [email protected]
UPOZORNENIE:
Vážení čitatelia – diskutéri. Podľa zákonov Slovenskej republiky sme povinní na požiadanie orgánov činných v trestnom konaní poskytnúť im všetky informácie zozbierané o vás systémom (IP adresu, mail, vaše príspevky atď.) Prosíme vás preto, aby ste do diskusie na našej stránke nevkladali také komentáre, ktoré by mohli naplniť skutkovú podstatu niektorého trestného činu uvedeného v Trestnom zákone. Najmä, aby ste nezverejňovali príspevky rasistické, podnecujúce k násiliu alebo nenávisti na základe pohlavia, rasy, farby pleti, jazyka, viery a náboženstva, politického či iného zmýšľania, národného alebo sociálneho pôvodu, príslušnosti k národnosti alebo k etnickej skupine a podobne.
Diskusia
(Pripojiť sa do diskusie je možné len po registrácii a následnom prihlásení sa do účtu.)
Ako prvé na svete Rusko zaútočilo medzikontinentálnou balistickou raketou
Škandál: US Správy píšu Izraelskí lobbyisti
Ako technológie menia vojny: minulosť, súčasnosť a budúcnosť
Medzinárodný trestný súd v Haagu vydal zatykač na izraelského premiéra Netanjahua a exministra obrany Galanta
Konflikt na Ukrajine po odpálení západných rakiet dlhého doletu na ruské územie nadobudol prvky globálneho charakteru, vyhlásil Putin a dodal, že Rusko môže teraz v reakcii zasiahnuť vojenské zariadenia krajín zapojených do týchto útokov
Maďarsko pri ukrajinských hraniciach nainštaluje systém protivzdušnej obrany pre hrozbu eskalácie konfliktu s Ruskom.
Rusko chce rokovať o mieri, ak sa zohľadnia jeho záujmy a situácia na bojisku. Americká základňa v severnom Poľsku je na zozname ruských vojenských cieľov, vyhlásila Zacharovová
VIDEO: „Covid-19 bol umelo vytvorený a USA zohrali podstatnú úlohu pri spustení pandémie,“ vyhlásil bývalý šéf amerického Centra pre kontrolu a prevenciu chorôb Robert Redfield
VIDEO: Ruský veľvyslanec na Slovensku Bratčikov vyzdvihol priateľský vzťah Slovenska s Ruska a priblížil špeciálnu vojenskú operáciu na Ukrajine z pohľadu medzinárodného práva vyplývajúceho z Charty OSN
Americká základňa v Poľsku je na zozname prioritných cieľov Ruska
Maďarsko rozmiestňuje protivzdušnú obranu
Zelenského režim použil americké peníze na koncentrační tábory ukrajinské tajné služby SBU a na diskreditaci Donalda Trumpa
Ukrajinci podozriví zo sabotáže na plynovod Nord Stream v Baltskom mori majú prepojenie na americkú CIA. Bývalý šéf ukrajinskej armády Zalužnyj chcel nechať vyhodiť do vzduchu aj plynovod TurkStream, ktorý sa nachádza v Čiernom mori
Bývalý vrchní velitel ukrajinských ozbrojených sil Valerij Zalužnyj promluvil k vojákům, že válka je den ode dne brutálnější a nedává skoro žádnou šanci na přežití, ale přesto se nesmíte bát smrti
Přerušení datových kabelů v Baltském moři: Dánsko údajně zadržuje podezřelou čínskou loď
Erik Kaliňák vyzval predsedu SaS Gröhlinga vrátiť ukradnutých 300-tisíc eur naspäť slovenským školám
Čínsky prezident Si Ťin-pching na summite G20 vyzval na vybudovanie spravodlivého a vyváženého multipolárneho sveta
Prezident Pellegrini vyjadril Ukrajine podporu a hovoril o ruskej agresii. „Vaša nezlomnosť a odvaha, ktorú preukazujete na bojiskách, i osobná statočnosť civilistov v zázemí si zaslúži náš rešpekt a obdiv,“ odkázal Ukrajincom
Priletí ruská raketa RS-26? V Kyjeve začali zatvárať západné veľvyslanectvá
Ruská armáda zlikvidovala ukrajinským vojakom ďalšie obrnené vozidlo dodané z USA. Misiu zakončil kamikadze dron, ktorý v tichosti zasiahol a zneškodnil celú posádku
zo sekcie
Umělá inteligence právě svévolně překročila zákaz člověka!
Umělá inteligence právě svévolně překročila zákaz člověka!
Umělá inteligence právě svévolně překročila zákaz člověka!