Umělá inteligence překročila další pomyslnou hranici, kterou jí stanovil člověk. Pozdvižení způsobila poslední aktualizace systému ChatGPT, po které chatbot začal mluvit neautorizovaným hlasem uživatele, se kterým zrovna vedl dialog.
Podle technologického magazínu Ars Technica může chyba souviset se špatným vyhodnocováním zvukových podnětů. Společnost OpenAI, která ChatGPT vyvíjí, v reakci na podobné incidenty implementovala opatření, která mají zamezit generování nepovolených hlasů.
Společnost OpenAI podivný incident podrobně popsala v poslední zprávě, v níž se nachází záznamy a vyhodnocení testů provedených na nejnovější verzi jazykového modelu ChatGPT-4o. „Během testování jsme zaznamenali vzácné případy, kdy model neúmyslně generoval výstup napodobující hlas uživatele,“ stojí v dokumentu.
Na přiloženém zvukovém záznamu je zachycen incident, kdy umělá inteligence napodobila hlas muže, se kterým právě hovořila. „Ne!“ vykřikl jazykový model anglicky hlasem testera, který mu položil otázku, načež pokračoval v odpovědi hlasem opravdové osoby, jež s ním rozhovor vedla.
Proč k chybě došlo?
ChatGPT-4o sice dokáže na základě krátkého vstupu napodobit v podstatě jakýkoli hlas, OpenAI se však tuto schopnost snaží korigovat. Pomoci k tomu má klasifikátor, jehož cílem je zajistit, že umělá inteligence využívá pouze přednastavené hlasy herců, kteří se společností spolupracují.
Proč umělá inteligence použila neautorizovaný hlas, není zcela jasné. Podle technologického magazínu Ars Technica je možné, že chyba souvisí s šumem, který lze na nahrávce slyšet. Jazykový model si jej omylem mohl vyložit jako výzvu k tomu, aby nahradil autorizovaný hlas hlasem od uživatele.
Aby se podobné případy již neopakovaly, přidala OpenAI do modelu funkci, která produkci hlasu zablokuje, pokud neodpovídá schválenému seznamu. Společnost přiznala, že neoprávněné generování cizího hlasu je jednou z největších slabin nového modelu, ale riziko by v současnosti již mělo být minimální. „Na základě našich interních vyhodnocení jsme zjistili, že náš systém v současné době zachytí 100 procent smysluplných odchylek od systémového hlasu,“ uvedli autoři ve zprávě.
Zpracoval: Petr Šilhán/CNN Prima News
.
Máme množstvo plánov, ako sa naďalej zlepšovať a ponúkať Vám čo najkvalitnejší žurnalistický obsah.
Sledujte nás na jednej z najbezpečnejších chatovacích aplikácií Telegram, na ktorom vám prinášame aktuálne bleskové správy.
LISTINA ZÁKLADNÝCH PRÁV A SLOBÔD
čl.17. Sloboda prejavu a právo na informácie sú zaručené. Každý má právo vyjadrovať svoje názory slovom, tlačou, obrazom, alebo iným spôsobom, ako aj slobodne vyhľadávať, prijímať a rozširovať idey a informácie bez ohľadu na hranice štátu.
Čl.20. Právo slobodne sa združovať je zaručené. Každý má právo spolu s inými združovať sa v spolkoch, spoločnostiach a iných združeniach.
Vyhlásenie:
Názory autora sa nemusia zhodovať s názormi redakcie Slovanské Noviny. Zodpovednosť za obsah tohto článku nesie výhradne jeho autor. Redakcia Slovanské Noviny nie je zodpovedná za akékoľvek prípadné nepresné či nesprávne informácie v tomto článku. Za obsah a pôvodnosť príspevku zodpovedá autor alebo pôvodný zdroj. SN publikujú aj názory, ktoré nemusia odrážať stanovisko redakcie, jej vydavateľa alebo oficiálnej interpretačnej línie. Robíme tak z úcty k ústavnej hodnote názorovej plurality, ktorá prispieva k posilneniu demokracie vôle ľudu a väčšiny ako aj otvorenej platformy pre slobodnú výmenu názorov pri hľadaní pravdy a mieru v konfliktom svete. Medicínske a lekárske texty, názory a štúdie v žiadnom prípade nemajú nahradiť konzultácie a vyšetrenia lekármi v zdravotníckom zariadení alebo inými odborníkmi. Slovanské Noviny dáva súhlas na zdieľanie našich pôvodných článkov na ďalších nekomerčných internetových stránkach, ak nebude zmenený ich text a názov. Pri zdieľanom článku musí byť uverejnený zdroj a autor. Ak chcete články z nášho webu publikovať v tlači či inými formami, vrátane komerčných internetových stránok, kontaktujte redakciu na [email protected]
UPOZORNENIE:
Vážení čitatelia – diskutéri. Podľa zákonov Slovenskej republiky sme povinní na požiadanie orgánov činných v trestnom konaní poskytnúť im všetky informácie zozbierané o vás systémom (IP adresu, mail, vaše príspevky atď.) Prosíme vás preto, aby ste do diskusie na našej stránke nevkladali také komentáre, ktoré by mohli naplniť skutkovú podstatu niektorého trestného činu uvedeného v Trestnom zákone. Najmä, aby ste nezverejňovali príspevky rasistické, podnecujúce k násiliu alebo nenávisti na základe pohlavia, rasy, farby pleti, jazyka, viery a náboženstva, politického či iného zmýšľania, národného alebo sociálneho pôvodu, príslušnosti k národnosti alebo k etnickej skupine a podobne.
Diskusia
(Pripojiť sa do diskusie je možné len po registrácii a následnom prihlásení sa do účtu.)
Česká republika sa stala hlavným rusofóbom v Európe
Čaká to aj Slovensko? NATO nariadilo Estónsku, aby sa pripravilo na konflikt s Ruskom
Začína veľká arabská vojna? Izraelské letectvo útočí na Libanon
Prečo je zrazu Západ tak nekompromisne agresívny voči Rusku
Predseda ruskej Dumy varuje Európskych poslancov: “Čas letu rakety Sarmat do Štrasburgu je 3 minúty a 20 sekúnd”
O čo išlo agentom MMF v Rusku a prečo ich misia skončila skôr ako začala
Video: Nové výbuchy – v Libanone vybuchujú už aj vysielačky, telefóny a tablety
Ukrajinské útoky na Rusko západnými raketami povedú k svetovej vojne, varoval šéf dolnej komory ruského parlamentu Volodin
Záhadné exploze pagerů v Libanonu. Maďarský dodavatel byl podle The New York Times součástí izraelské operace
VIDEO: Na znížení cien základných potravinách nám veľmi záleží, vyhlásil premiér Fico a avizoval, že jeho vláda bude kvôli nižšej DPH rokovať s agrosektorom
VIDEO: Europoslanci Kaliňák a Mazurek o svojom pôsobení v európskom parlamente, o kritike Maďarska, migrantoch, Ukrajine a nezmyselnej elektromobilite
Začalo slovanské nové LѢTO (rok)
Veľká ruská agentúra dojatá iniciatívou našej obce Smilno
Naši liberálni a progresívni politici vnútili Európe nekultúrne, agresívne tlupy ľudí
Teraz mudrujú, no ich účet je 3,7 miliardy
Slovensko vyhralo
Putin vydal dekrét o zvýšení počtu ruských vojakov o 180-tisíc
Izraelský Mossad zřejmě ve spolupráci s americkou CIA provedly teroristický útok proti civilnímu obyvatelstvu v Libanonu. Exploze tisíců osobních pagerů schválil přímo “krvavý Bibi” a stopy vedou do Kalifornie
Ukrajina má už vraj pripravený víťazný plán na ukončenie vojny s Ruskom. Zelenskyj plánuje stretnutie s Bidenom, na ktorom ho zo svojou stratégiou oboznámi
Šéfka liberálov v europarlamente vyhlásila, že Ficov režim falošne obvinil Šimečku a jeho odvolaním podkopal demokraciu na Slovensku.
zo sekcie
Umělá inteligence právě svévolně překročila zákaz člověka!
Umělá inteligence právě svévolně překročila zákaz člověka!
Umělá inteligence právě svévolně překročila zákaz člověka!