zamyslenie

Umělá inteligence právě svévolně překročila zákaz člověka!

Umělá inteligence překročila další pomyslnou hranici, kterou jí stanovil člověk. Pozdvižení způsobila poslední aktualizace systému ChatGPT, po které chatbot začal mluvit neautorizovaným hlasem uživatele, se kterým zrovna vedl dialog.

Podle technologického magazínu Ars Technica může chyba souviset se špatným vyhodnocováním zvukových podnětů. Společnost OpenAI, která ChatGPT vyvíjí, v reakci na podobné incidenty implementovala opatření, která mají zamezit generování nepovolených hlasů.

> Slovanská Múdrosť na youtube Slovanských Novín

Společnost OpenAI podivný incident podrobně popsala v poslední zprávě, v níž se nachází záznamy a vyhodnocení testů provedených na nejnovější verzi jazykového modelu ChatGPT-4o. „Během testování jsme zaznamenali vzácné případy, kdy model neúmyslně generoval výstup napodobující hlas uživatele,“ stojí v dokumentu.

Na přiloženém zvukovém záznamu je zachycen incident, kdy umělá inteligence napodobila hlas muže, se kterým právě hovořila. „Ne!“ vykřikl jazykový model anglicky hlasem testera, který mu položil otázku, načež pokračoval v odpovědi hlasem opravdové osoby, jež s ním rozhovor vedla.

Proč k chybě došlo?
ChatGPT-4o sice dokáže na základě krátkého vstupu napodobit v podstatě jakýkoli hlas, OpenAI se však tuto schopnost snaží korigovat. Pomoci k tomu má klasifikátor, jehož cílem je zajistit, že umělá inteligence využívá pouze přednastavené hlasy herců, kteří se společností spolupracují.

Proč umělá inteligence použila neautorizovaný hlas, není zcela jasné. Podle technologického magazínu Ars Technica je možné, že chyba souvisí s šumem, který lze na nahrávce slyšet. Jazykový model si jej omylem mohl vyložit jako výzvu k tomu, aby nahradil autorizovaný hlas hlasem od uživatele.

Aby se podobné případy již neopakovaly, přidala OpenAI do modelu funkci, která produkci hlasu zablokuje, pokud neodpovídá schválenému seznamu. Společnost přiznala, že neoprávněné generování cizího hlasu je jednou z největších slabin nového modelu, ale riziko by v současnosti již mělo být minimální. „Na základě našich interních vyhodnocení jsme zjistili, že náš systém v současné době zachytí 100 procent smysluplných odchylek od systémového hlasu,“ uvedli autoři ve zprávě.

ZDROJ

Zpracoval: Petr Šilhán/CNN Prima News

.

Máme množstvo plánov, ako sa naďalej zlepšovať a ponúkať Vám čo najkvalitnejší žurnalistický obsah.

Sledujte nás na jednej z najbezpečnejších chatovacích aplikácií Telegram, na ktorom vám prinášame aktuálne bleskové správy.

 

 

LISTINA ZÁKLADNÝCH PRÁV A SLOBÔD

čl.17. Sloboda prejavu a právo na informácie sú zaručené. Každý má právo vyjadrovať svoje názory slovom, tlačou, obrazom, alebo iným spôsobom, ako aj slobodne vyhľadávať, prijímať a rozširovať idey a informácie bez ohľadu na hranice štátu.

Čl.20. Právo slobodne sa združovať je zaručené. Každý má právo spolu s inými združovať sa v spolkoch, spoločnostiach a iných združeniach.

Vyhlásenie:

Názory autora sa nemusia zhodovať s názormi redakcie Slovanské Noviny. Zodpovednosť za obsah tohto článku nesie výhradne jeho autor. Redakcia Slovanské Noviny nie je zodpovedná za akékoľvek prípadné nepresné či nesprávne informácie v tomto článku. Za obsah a pôvodnosť príspevku zodpovedá autor alebo pôvodný zdroj. SN publikujú aj názory, ktoré nemusia odrážať stanovisko redakcie, jej vydavateľa alebo oficiálnej interpretačnej línie. Robíme tak z úcty k ústavnej hodnote názorovej plurality, ktorá prispieva k posilneniu demokracie vôle ľudu a väčšiny ako aj otvorenej platformy pre slobodnú výmenu názorov pri hľadaní pravdy a mieru v konfliktom svete. Medicínske a lekárske texty, názory a štúdie v žiadnom prípade nemajú nahradiť konzultácie a vyšetrenia lekármi v zdravotníckom zariadení alebo inými odborníkmi. Slovanské Noviny dáva súhlas na zdieľanie našich pôvodných článkov na ďalších nekomerčných internetových stránkach, ak nebude zmenený ich text a názov. Pri zdieľanom článku musí byť uverejnený zdroj a autor. Ak chcete články z nášho webu publikovať v tlači či inými formami, vrátane komerčných internetových stránok, kontaktujte redakciu na redakcia@slovanskenoviny.sk

UPOZORNENIE:

Vážení čitatelia – diskutéri. Podľa zákonov Slovenskej republiky sme povinní na požiadanie orgánov činných v trestnom konaní poskytnúť im všetky informácie zozbierané o vás systémom (IP adresu, mail, vaše príspevky atď.) Prosíme vás preto, aby ste do diskusie na našej stránke nevkladali také komentáre, ktoré by mohli naplniť skutkovú podstatu niektorého trestného činu uvedeného v Trestnom zákone. Najmä, aby ste nezverejňovali príspevky rasistické, podnecujúce k násiliu alebo nenávisti na základe pohlavia, rasy, farby pleti, jazyka, viery a náboženstva, politického či iného zmýšľania, národného alebo sociálneho pôvodu, príslušnosti k národnosti alebo k etnickej skupine a podobne.

Diskusia

(Pripojiť sa do diskusie je možné len po registrácii a následnom prihlásení sa do účtu.)

 

Príspevkom "na kávu" pomôžete ľahšiemu fungovniu Slovanských Novín a podporíte tvorenie.

Ďakujeme

Odber newsletter. Každý večer súhrn najdôležitejších správ dňa do mailu.

Slovanské Noviny

Recent Posts

Petícia za vyhlásenie referenda: SHO informuje o plánovaných aktivitách v mesiaci november

Slovenské Hnutie Obrody reaguje na podnety niektorých občanov, ktorí sa dožadujú rozpisu dátumov a miest, v…

3 hodiny ago

VIDEO: Vojaci z NATO prenikli na územie Ruska. Zlikvidovali ich

Skupina vojakov, ktorá prenikla do ruskej Brjanskej oblasti, pozostávala z vojakov NATO. Ukrajinskú sabotážnu a prieskumnú skupinu, ktorá vtrhla do…

3 hodiny ago

Rusi ukoristili americké Abramsy. Poliaci majú hlavybôľ

Poľsko varuje pred následkami ukoristenia tankov Abrams. Interia: Rusko vyvinie nové metódy boja proti tankom,…

3 hodiny ago

Nerobme z Kisku martýra, je právoplatne odsúdený podvodník

Ani novinárovi, pedagógovi a katolíckemu kňazovi Karolovi Lovašovi neušlo štvrtkové (31. 10.) odsúdenie Andreja Kisku. Krajský…

3 hodiny ago

Zväz Sovietskych Socialistických Republik. Štátny fond Josifa Visarionoviča Stalina od 01. novembra 2024 začína s vyplácaním kompenzačných platieb

Na základe Príkazu č. 01, Hrdinu Sovietskeho Zväzu a Predsedu Predstavenstva Štátneho Fondu, Alexandra Vladimiroviča…

3 hodiny ago

VIDEO: Romana Tabaková označila Rudolfa Huliaka za zradcu, ktorý chce vydierať Ficovu vládu.

Ľudia už podľa nej majú dosť hádok a konfliktov medzi politikmi. Komentovala aj progresivistické prejavy…

8 hodín ago