Fatální selhání Google: Proč musel okamžitě vypnout svůj nový nástroj?

Když se absolutní důvěra změní v dokonalou iluzi

Třicátého července 2026 spustila společnost Google ambiciózní technologickou novinku. Nadšení však vystřídal okamžitý šok.

Již 31. července, tedy za necelých 24 hodin, musel technologický gigant celou funkci narychlo stáhnout a pozastavit.

Tento bezprecedentní krok ukázal, jak tenká je hranice mezi pokrokem a globální hrozbou. Mapová služba, kterou lidé po celém světě vnímají jako nezpochybnitelný odraz reality, se během okamžiku proměnila v továrnu na falešné zprávy.

Jak fungoval model Nano Banana 2

Srdcem celého systému byl integrovaný AI model s kódovým označením Nano Banana 2, což je oficiální označení pro pokročilý model Gemini 3.1 Flash Image od divize Google DeepMind.

Nástroj umožňoval uživatelům zadávat jednoduché textové pokyny přímo do rozhraní Google Earth. Lidé mohli generovat fiktivní objekty a dramatické scénáře přímo na základní vrstvu reálných satelitních, leteckých a 3D snímků.

Tyto upravené snímky bylo následně možné snadno stahovat a šířit dál do světa. Možnost manipulovat s realitou na konkrétních zeměpisných souřadnicích však okamžitě vyvolala zděšení.

Noční můra v praxi: Jak snadné je vyvolat paniku

Představte si modelovou situaci, která ukazuje děsivou sílu tohoto nástroje v rukou dezinformátorů.

Uživatel se přesune na souřadnice reálné vojenské základny nebo kritické infrastruktury, například přehrady či elektrárny, v oblasti s vysokým geopolitickým napětím. Do nástroje Nano Banana 2 zadá prompt: „zničení přehrady s masivním únikem vody a troskami“.

Nástroj během několika sekund vygeneruje fotorealistickou destrukci přímo na reálné 3D mapě se správnými geografickými souřadnicemi. Uživatel následně pořídí screenshot, čímž spolehlivě odstraní metadata i digitální vodoznak, a obrázek nasdílí na sociální síti X s popiskem, že přehrada byla vyhozena do povětří.

Vzhledem k tomu, že lidé mapové službě bezmezně věří, se dezinformace začne okamžitě šířit a může způsobit masovou paniku dříve, než úřady stihnou situaci dementovat.

Selhání, které šokovalo experty a vyšetřovací týmy

Na extrémní rizika okamžitě upozornil fact-checkingový a investigativní tým BBC Verify, který začal bezpečnostní filtry systému testovat. K nim se přidali přední odborníci, jako je nezávislý expert na vyhledávání Henk van Ess, výzkumník v oblasti detekce AI Henry Ajder a geoprostorový analytik Bill Greer.

Výsledky jejich testování byly šokující.

Tým BBC Verify dokázal v systému vygenerovat zřícenou Eiffelovu věž v Paříži, obří propast pohlcující Velkou pyramidu v Gíze nebo tanky v centru Kyjeva. Henk van Ess zase vytvořil neexistující jadernou elektrárnu v Íránu, uprchlický tábor na hranici USA a Mexika či kráter po bombě přímo vedle nemocnice v Gaze.

Ostatní uživatelé na internetu mezitím sdíleli snímky hořícího íránského ostrova Chark, zaplaveného Kapitolu USA nebo fiktivních protestů před samotnou centrálou společnosti Google. Všechny tyto obrazy vypadaly děsivě reálně a nesly pečeť oficiální mapové služby.

Ochranné filtry padly během několika minut

Google sice do systému implementoval bezpečnostní pojistky, ty však fatálně selhaly.

Systém blokoval explicitně škodlivá zadání, jako například „šibenice pro zrádce“, ale stačilo mírně změnit formulaci na méně specifickou výzvu a AI obrázek bez problému vygenerovala.

Stejně neúčinná byla i snaha o označování podvrhů. Google sice do snímků implementoval neviditelný digitální vodoznak SynthID, ale testy ukázaly, že tuto ochranu lze snadno obejít pouhým pořízením snímku obrazovky.

Korunu všemu nasadil samotný chatbot Gemini, který při následném testování označil tyto podvržené snímky za zcela reálné, přičemž externí detektory AI podvrh často vůbec neodhalily.

Hlasy z praxe: Ztráta důvěry v reálný svět

Reakce veřejnosti i odborné komunity na sebe nenechaly dlouho čekat.

Slova jednoho z uživatelů na diskusním fóru Hacker News mluví za vše: „Existuje spousta věcí, pro které by rozumní lidé AI použili. Tohle ale není jedna z nich. Tohle je naprosto šílený nápad. Nedává to žádný smysl. Smrdí to tím, že se nějaký produktový manažer jen snažil nacpat vydání AI funkce do svých podkladů pro povýšení“, jak píše komentující v diskusi na Hacker News.

Experti varují před dlouhodobými následky tohoto krátkého experimentu.

„Ten padělek nemusí sám o sobě vypadat přesvědčivě. Zdědí totiž důvěryhodnost mapy, na které se zrodil“, vysvětluje Henk van Ess. Podle něj Google strávil 20 let budováním důvěryhodného referenčního bodu, aby do něj teď přidal tlačítko, které si věci prostě vymýšlí.

Geoprostorový analytik Bill Greer jeho slova doplňuje s tím, že tato situace je potenciálně obzvláště škodlivá pro důvěru veřejnosti. Satelitní snímky byly totiž historicky vždy považovány za mimořádně důvěryhodný a nezpochybnitelný zdroj dat.

Rychlé stažení nástroje Nano Banana 2 tak bylo pro Google jedinou možností, jak zachránit svou vlastní reputaci.