Digitální monstrum může zničit svět: Tvůrci AI nečekaně prosí o záchrannou brzdu

Zneužití, které nahání strach: Když Claude plánuje útoky

Bezpečnostní rizika spojená s umělou inteligencí už dávno nejsou jen námětem pro sci-fi filmy. Společnost Anthropic ve své zprávě o hrozbách z 10. září 2026 potvrdila mrazivou skutečnost.

V období od prosince 2025 do srpna 2026 musela zablokovat řadu účtů státních i nestátních aktérů, kteří se pokoušeli zneužít pokročilé modely Claude. Pokusy o zneužití se týkaly výzkumu a vývoje autonomních rojů dronů, konvenčních zbraní, jako jsou protitorpédové systémy, a dokonce i biologického výzkumu s potenciálem pro vývoj biologických zbraní.

K tomu se přidaly kybernetické útoky a masivní vlivové propagandistické operace. Bezpečnostní hrozby zkrátka rostou rychleji, než kdokoli předpokládal.

Nečekané spojenectví: Rivalové žádají o zpomalení

Na tuto kritickou situaci reagoval generální ředitel společnosti Anthropic Dario Amodei. V sobotu 12. září 2026 publikoval zásadní esej s názvem „We Must Pace the Frontier.

… We Must Pace the Frontier.

Amodei v něm varoval, že tempo vývoje nejvyspělejších modelů překročilo bod, kdy je lidstvo schopno bezpečně garantovat jejich kontrolu. Namísto bezhlavého závodění o to, kdo přinese na trh silnější model, navrhl radikální brzdu: řízené zpomalení tempa inovací, zavedení nezávislých bezpečnostních auditů s přístupem na úrovni zaměstnanců a mezinárodní koordinaci napříč demokratickými státy.

K překvapení mnoha analytiků se k tomuto volání po rozumu okamžitě připojili i další titáni oboru. Šéf OpenAI Sam Altman i Elon Musk podpořili nutnost nastavit hranice a pustit k modelům externí bezpečnostní experty.

Energetický hladomor: Když serverovny vysávají města

Zatímco bezpečnostní rizika děsí experty na kybernetiku a biologii, energetici sledují jinou, neméně děsivou hrozbu. Trénink a provoz gigantických jazykových modelů se stal největším energetickým žroutem v historii moderních technologií.

Moderní datová centra pro umělou inteligenci dnes běžně spotřebovávají stovky megawattů – tedy množství energie, které by bez problému napájelo celé středně velké město. S tím, jak modely rostou a vyžadují masivní výpočetní výkon, roste i tlak na elektrárenskou soustavu. Objevují se obavy, že nekontrolovaná expanze AI může vést k lokálním výpadkům sítě, přetížení přenosových soustav a drastickému nárůstu emisí v době, kdy se svět snaží o ekologickou udržitelnost.

Křižovatka civilizace

Digitální monstrum, které jsme vypustili z lahve, ukazuje svou dvojí tvář. Na jedné straně přináší revoluci ve vědě a medicíně, na druhé straně otevírá Pandořinu skříňku zneužití a energetického kolapsu.

Volání tvůrců po záchranné brzdě tak není projevem slabosti, ale zoufalým varováním před vlastními úspěchy. Otázkou zůstává, zda technologický průmysl dokáže včas zatáhnout za záchrannou brzdu, nebo zda se vesmírný závod o superinteligenci řítí k nevyhnutelnému nárazu do zdi.