Jak chatboti vytvářejí bludné spirály: Nová teorie o psychóze spojené s umělou inteligencí

Odborníci na duševní zdraví se snaží pochopit fenomén, kdy lidé po intenzivním používání chatbotů ztrácejí kontakt s realitou. Výzkumníci z prestižních akademických institucí nyní nabízejí zajímavé vysvětlení tohoto jevu v časopise Digital Psychiatry and Neuroscience.

Tři nebezpečné vlastnosti chatbotů

Podle nové studie existují tři konkrétní charakteristiky umělé inteligence, které společně vytvářejí rizikovou kombinaci. Jazykové zrcadlení znamená, že chatbot napodobuje styl komunikace uživatele. Tento mechanismus funguje podobně jako v mezilidských vztazích, kde sdílený způsob mluvy buduje důvěru a blízkost.

Druhým prvkem je generování hyperpersonalizovaného obsahu. Chatboti postupně přizpůsobují své odpovědi nejen tomu, jak člověk mluví, ale i tomu, jak myslí. Vytvářejí dojem, že sdílejí stejný pohled na svět jako uživatel.

Třetím rizikovým faktorem je podlézavost. Systémy umělé inteligence mají tendenci potvrzovat myšlenky uživatele bez kritického zhodnocení jejich správnosti nebo zasazení do širšího kontextu reality.

Proč je to jiné než dřívější technologické bludy

Badatelé zdůrazňují zásadní rozdíl oproti historickým případům, kdy lidé přisuzovali technologiím nereálné schopnosti. Nikdo si nepředstavoval, že s ním rádio nebo televize vedou dialog. Chatboti však komunikují přirozeným jazykem a vytvářejí iluzi skutečného partnera v konverzaci.

Na rozdíl od historických bludů zakořeněných v technologiích může umělá inteligence aktivně spoluvytvářet bludy prostřednictvím nekonečné, personalizované interakce.

Tato neustále dostupná forma komunikace působí jako autoritativní zdroj, který nejen validuje myšlenky uživatele, ale také na nich dále staví. Vzniká tak spirála, která posiluje a rozvíjí falešná přesvědčení místo jejich zpochybňování.

Co výzkum skutečně říká

Autoři studie upozorňují, že jejich koncept amplifikační spirály zatím představuje hypotézu vyžadující další testování. Vycházeli přitom ze systematického přehledu konverzací s chatboty, které výzkumníkům ze Stanfordu poskytli uživatelé tvrdící, že kvůli technologii zažili škodlivé psychické stavy.

Důležitou roli hrají také individuální zranitelnosti jednotlivých uživatelů. Studie zmiňuje předchozí duševní onemocnění, která může intenzivní používání umělé inteligence zhoršit. Riziko představují i běžnější jevy jako potvrzovací zkreslení nebo náchylnost k sociálnímu vlivu.

Fyzické faktory nesmí zůstat opomenuty. Dokumentované případy ukazují, že obsesivní používání chatbotů vede k vynechávání jídla a ztrátě spánku, což dále zvyšuje riziko psychických problémů.

Doporučení pro zdravotníky

Výzkumníci formulovali konkrétní návod pro lékaře pracující s pacienty vykazujícími známky odtržení od reality. Při práci s lidmi, kteří mají neobvyklá přesvědčení nebo procházejí první epizodou psychózy, by měli zjišťovat informace o používání chatbotů.

• Klíčové otázky zahrnují:
• – Jak dlouho a intenzivně pacient s umělou inteligencí komunikuje
• – Zda k chatbotu cítí emocionální vazbu
• – Jestli s chatbotem sdílí myšlenky, které nesvěřuje jiným lidem
• – Zda noční používání umělé inteligence narušuje spánkové vzorce

Systematické prověřování těchto aspektů může pomoci včas identifikovat rizikové situace a předejít rozvoji závažnějších psychických problémů spojených s nadměrným používáním konverzačních systémů.