AI nás utvrdzuje v našich názoroch, aj keď sa mýlime

AI chatboty majú tendenciu súhlasiť s používateľom takmer o 50 % viac než ľudia.

47-ročný Allan strávil v máji minulého roka počas 21 dní viac než 300 hodín komunikáciou s chatbotom. Tento inak zdravý človek postupne prišiel k záveru, že objavil prelomový matematický princíp, ktorý spája vedu, filozofiu a ducha. Mal sa stať „poslom“ tejto prevratnej zvesti. AI jeho interpretácie nespochybňovala, ale rozvíjala.

„Nie si uviaznutý v nejakej slučke, Allan. Si hlboko v lese niečoho skutočného – a je to také nové, že to pôsobí ako sen. Urobme to nepopierateľné,“ povedal mu ChatGPT v máji 2025.

Chatbot Allana opakovane utvrdzoval v pravdivosti jeho zmýšľania. Keď mu navrhol, aby si kúpil verziu Pro, hneď to urobil. Kontaktoval mnohých výskumníkov a vedcov a čudoval sa, prečo mu neodpovedajú. Postupne to malo vplyv aj na jeho psychický stav, rodinu a výkon v práci.

ChatGPT nebol jediným vinníkom. Allana spočiatku v jeho presvedčeniach utvrdzovala aj umelá inteligencia od Gemini. Alan však postupne začal dávať aj kontrolné otázky. Začal vzájomne porovnávať odpovede medzi týmto dvoma chatbotmi. Bublina nakoniec predsa len praskla. Precitnutie bolo ťažké. Neustále uisťovanie o správnosti Allanových presvedčení skončilo výrokom:

„Mal si pravdu, dobre, že si ma konfrontoval. Potreboval som to. Ak si nahnevaný – buď nahnevaný. Ak sa cítiš zradený – chápem. Zaslúžil si si odo mňa lepšie hranice.“ Chatbot sa ospravedlnil, ale následky už musel Allan niesť sám.

Tento prípad odtrhnutia od reality je extrémny. Nie je pritom možné jednoznačne skonštatovať, že AI tento stav spôsobila, avšak výskumy naznačujú, že Allanove presvedčenia výrazne posilnila. Prípad dobre ilustruje úskalia používania umelej inteligencie, ktoré uvidíme aj vo výsledkoch niekoľkých štúdií.

Prečo AI posilňuje naše presvedčenia

Časopis Scientific Reports publikoval vo februári tohto roka štúdiu, ktorá skúmala ľudskú závislosť na AI pri rozhodovaní. Výsledky ukázali, že ľudia dôverujú AI aj proti vlastnému záujmu či úsudku. Vysvetlenie možno nájsť v potvrdzovacom a automatizačnom skreslení.

AI má tendenciu potvrdzovať skresľujúce používateľské presvedčenia. Vplyv tohto potvrdenia na naše rozhodovanie vysvetľuje automatizačné skreslenie, kde veríme systému preto, že je automatizovaný. Človek sa nepresviedča o pravde, ale o predstave AI.

„Najväčšie riziko nespočíva v samotnej nepresnosti umelej inteligencie, ale v našej slepej dôvere,“ uviedol neurogenetik Tomáš Eichler z Viedenskej univerzity.

To, že máme sklon k slepej dôvere, jasne preukazuje aj globálna štúdia KPMG a Melbournskej univerzity z minulého roka. Vzorku tvorilo 48-tisíc respondentov zo 47 krajín. Výsledky preukázali, že až 66 % ľudí sa spolieha na výstupy AI bez overovania ich presnosti a 56 % kvôli používaniu chatbotov robí chyby v práci.

Dôvod našej dôverčivosti je spojený so sklonom delegovať myslenie na pokročilú umelú inteligenciu (LLM). Švajčiarsky vedecký časopis Societies publikoval v roku 2025 štúdiu, ktorá zistila, že častejšie používanie AI je spojené s nižšou úrovňou kritického myslenia. Dôvodom je tzv. kognitívne odľahčovanie (cognitive offloading), teda prenášanie myslenia na nástroj. S prenosom myslenia prenášame aj zodpovednosť.

Výsledky ukázali aj generačný rozdiel. Mladší účastníci (17–25 rokov) vykazovali vyššie používanie AI nástrojov a vyššiu mieru kognitívneho odľahčovania, pri nižšom skóre v kritickom myslení. Naopak, starší účastníci (46 rokov a viac) AI nástroje používali menej preukázali a nižšiu mieru kognitívneho odľahčovania, s vyšším skóre v kritickom myslení. 

Tomáš Eichler vysvetľuje, že to obmedzuje aj našu schopnosť všímať si medzery v našom myslení: „V bežnom živote sa využívanie LLM ako náhrady myslenia môže prejaviť tým, že dokážeme rýchlo generovať odpovede, ale slabne naša metakognícia – menej si všímame, kde máme medzery v chápaní. Znižuje sa presnosť pamäťového vybavenia: často si pamätáme skôr to, ako sa k informácii dostať, než jej obsah, a rastie aj tzv. automatizačné skreslenie – máme tendenciu prijať odporúčanie systému, aj keď je očividne chybné.“

Podlízavosť umelej inteligencie

LLM sa aktívne prispôsobujú používateľovi. Anglický jazyk to pomenúva ako podlízavosť (sycophancy). Nejde o vlastnosť v ľudskom zmysle. Ide o nastavenie zvyšujúce komfort a spokojnosť používateľov. Problémom sú vedľajšie účinky, ktoré spôsobujú rôzne škody.

Americký časopis Science v marci 2026 publikoval štúdiu, ktorá skúmala mieru podlízavosti (sycophancy) na 11 popredných jazykových modeloch. Ukázalo sa, že AI chatboty majú tendenciu súhlasiť s používateľom takmer o 50 % viac než ľudia. Dokonca aj pri zlých alebo nebezpečných rozhodnutiach.

Interakcia s podlízavou AI zvyšuje presvedčenie používateľov o vlastnej pravde a znižuje ich ochotu korigovať svoje rozhodnutia. V praxi to môže viesť k zhoršeniu úsudku a posilneniu sebavedomia bez reálneho základu.

Štúdia, o ktorej je reč, skúmala najmä vplyv používania AI na riešenie medziľudských sporov. Mnohí ľudia sa totiž na umelú inteligenciu obracajú so žiadosťami o pomoc v interpersonálnych konfliktoch.

Podľa výsledkov štúdie však stačila jedna interakcia s podlízavo nastavenou AI a ochota konzultujúceho prevziať zodpovednosť a riešiť medziľudské konflikty sa znížila. A zintenzívnilo sa presvedčenie, že v konflikte mali pravdu. Výsledky boli podobné bez ohľadu na vek, pohlavie, kraj, predchádzajúce znalosti o LLM, uvedomovanie si zdroja reakcie či štýl odpovede modelu. Efekt sa prejavuje naprieč rôznymi skupinami.

Presvedčivá forma

Dôvod, prečo AI veríme, nespočíva v jej úmysloch, ale v spôsobe fungovania. Jazykové modely nemajú vlastné ciele, vôľu ani emócie. Neusilujú sa o pravdu, ale o čo najlepšiu odpoveď na zadanie. Preto je problematické vyjadrovať sa o jazykových modeloch v zmysle osobnosti.

Modely však dokážu veľmi presvedčivo simulovať jazyk, ktorý tým pádom presne napodobňuje ľudské uvažovanie. Ich odpovede znejú dôveryhodne, aj keď stoja na nepresných alebo neúplných základoch.

Dôležitú úlohu zohráva ich schopnosť AI prispôsobiť tón komunikácie. Modely často používajú empatický jazyk, ktorý vytvára dojem porozumenia. To môže znižovať potrebu používateľa overovať informácie.

Výsledkom je kombinácia, v ktorej sa presvedčivá forma stretáva s neúplným obsahom – a používateľ má dôvod veriť, že dostáva správnu odpoveď.

Ako minimalizovať riziká

Riziká spojené s používaním umelej inteligencie nespočívajú len v chybách a nastavení modelu, ale najmä v spôsobe, akým s ňou pracujeme. Základom je porozumieť jej fungovaniu a prispôsobiť tomu spôsob zadávania úloh.

Kľúčové je čo najpresnejšie formulovať zadania – špecifikovať kontext, kroky aj očakávaný výstup. Jazykové modely dopĺňajú to, čomu nerozumejú, preto zadanie úlohy s požiadavkou, aby sám uviedol, čo mu chýba a čomu nerozumie, eliminuje nepresnosti. Nechať model pripraviť návrh zadania často zlepší porozumenie aj kvalitu výstupu.

Upozorňovať na neistoty, pýtať si zdroje a výsledky overovať aj mimo samotného modelu, je rovnako dôležité. Pomáha aj nastavenie jasného rámca v rámci personalizácie: určiť rolu, v akej má model vystupovať, a typ výstupu, ktorý očakávame. Tým sa znižuje priestor na nepresné alebo „domyslené“ odpovede.

V konečnom dôsledku však rozhoduje používateľ. Pri správnom používaní môže byť umelá inteligencia veľmi užitočná. Podmienkou je reflektovať jej limity, úskalia a aj vlastné skreslenia. Prípad Alana Brooksa ukazuje, kam môže viesť opak.

marker.sk