Vaše intimní konverzace s ChatGPT čte reálný člověk. Takto tomu zabráníte

Večerní zpověď, kterou nikdo nemá vidět

Je pozdě večer, v bytě svítí jen displej a do okna chatu se vkládá věta, kterou by dotyčný nahlas neřekl ani nejbližším. Popis zdravotního problému, spor se šéfem, obavy o dítě. Odpověď přijde během pár vteřin, klidná a vstřícná.

Pocit důvěrnosti je silný. Jenže podle investigativního zjištění, které v září 2026 rozvířilo technologický svět, nemusí být na druhé straně jen stroj.

Kdo všechno se k takovým zprávám může dostat? A proč o tom většina lidí neměla tušení?

Tajná operace s kódovým názvem Lily

Dne 14. září 2026 přineslo americké technologické médium 404 Media text novináře Josepha Coxe. Navázala na něj 25. září 2026 autorka Tereza Nesvadbová na serveru Chip.cz.

Zpráva popisuje interní operaci společnosti OpenAI s názvem Project Lily. Stovky až tisíce externích pracovníků jsou najímány přes agentury, například Crossing Hurdles, nebo přes platformu Mercor.

Jejich práce spočívá v ručním čtení a hodnocení reálných konverzací, které lidé s chatbotem vedou. Cílem je dolaďování modelů pomocí lidské zpětné vazby, odborně RLHF.

Hodnotitelé posuzují věcnou správnost, srozumitelnost i to, zda chatbot uživateli příliš nelichotí. Hlídají také, aby se umělá inteligence nesnažila působit lidsky a nepředstírala vlastní zkušenosti.

Když filtr na soukromí selže

OpenAI k odstraňování osobních údajů používá automatický systém Privacy Filter. Hodnotitelé díky němu nevidí uživatelská jména ani e-maily. Filtr ale podle zjištění pravidelně selhává.

Při neobvyklých identifikátorech, jménech nebo specifickém kontextu ochrana nezabere. Hodnotitelé pak na obrazovkách vídají citlivé osobní údaje, lokaci uživatele i souhrny dlouhodobých vzpomínek z profilu, tedy User Memories Summary.

Jeden z externích hodnotitelů to podle zveřejněných informací shrnul slovy: „Nemyslím si, že by si uživatelé dokázali představit, že někde nějaký dodavatel analyzuje jejich konverzace. Vybrané dotazy jsou anonymizované, ale někdy obsahují osobní informace, protože model Privacy Filter může dělat chyby.“

Jak může únik soukromí vypadat v praxi

Modelová situace: uživatel řeší právní spor nebo zdravotní potíže. Do chatu vloží podrobný popis včetně názvu zaměstnavatele a jména lékaře.

Účet má v továrním nastavení, takže konverzace může být zařazena do vzorku pro Project Lily. Automatický filtr přehlédne nestandardní název místní polikliniky.

Hodnotitel pracující z domova pak dostane na obrazovku celý dotaz. Vedle něj vidí i souhrn vzpomínek, třeba „Uživatel žije v Praze, má 2 děti“. Posuzuje tón odpovědi umělé inteligence.

Pozdější vypnutí vylepšování modelu zastaví jen budoucí chaty. Už vyhodnocená konverzace zůstává.

Co říkají uživatelé

Zjištění vyvolalo diskusi. Jeden z uživatelů na síti Reddit napsal: „Většina uživatelů ChatGPT si pravděpodobně neuvědomuje, že jejich chaty mohou číst skuteční lidé. Lidé používají ChatGPT jako terapeuta, odborného asistenta nebo digitálního přítele a sdělují mu nejrůznější intimní podrobnosti. Přistupujte k AI jako k jakémukoli jinému potenciálně nebezpečnému uživateli na internetu a nesdělujte jí osobní údaje.“

Dva mýty o soukromí

První mýtus říká, že si soukromí koupíte. Předplatné ChatGPT Plus (20 USD měsíčně) ale automatické soukromí konverzací nezaručuje.

Výchozí stav pro trénování je zapnutý u všech osobních, nefiremních účtů bez ohledu na platbu.

Druhý mýtus se týká mazání historie. Smazání konverzace ji jen skryje v rozhraní. Systémy OpenAI si data mohou ponechat až 30 dnů z bezpečnostních důvodů. Navíc se tím nevymažou informace, které už hodnotitelé zpracovali nebo které se dostaly do trénovacího souboru.

Jak soukromí ochránit krok za krokem

Chcete-li zabránit tomu, aby vaše zprávy čtli lidští hodnotitelé, změňte nastavení účtu.

Postup: Nastavení (Settings) → Ovládací prvky pro data (Data Controls) → vypnout volbu „Vylepšovat model pro každého“ (Improve the model for everyone).

Pozor na klíčový detail: vypnutí platí výhradně pro nové konverzace, které vznikly po změně. Do chatu proto raději nevkládejte nic, co by nemělo spatřit cizí oko.