Do roka se umělá inteligence vymkne kontrole a způsobí obrovský problém

Zhasnuté displeje bankomatů, ticho v rozvodnách a tisíce lidí, kteří marně mačkají tlačítko na telefonu. Přesně takový obraz se podle amerického serveru Axios objevuje v uzavřených místnostech, kde se scházejí lidé z čela předních firem vyvíjejících umělou inteligenci.

Nejde o film ani o poplašnou zprávu. Jde o strategická cvičení, kterým se v oboru říká wargaming, tedy simulace krizí podobné těm, které znají armády či bezpečnostní složky.

Co se děje v zákulisí

Podle Axios se cvičení týkají firem kolem Sama Altmana z OpenAI i Daria Amodeiho z Anthropic. Manažeři v nich procházejí scénáře, které by mohly vyústit v globální katastrofu spojenou s vývojem umělé inteligence.

Probíhá to v naprosté tichosti. Veřejnost se o tom nedozvídá z tiskových konferencí, ale z úniků a investigativních zpráv.

Zajímavé je, že hlavním tématem není jen samotný incident. Stejně důležité je, co by následovalo hned po něm: tlak politiků, médií a rozzlobených občanů.

Scénář, který se prý může naplnit do roku

Hlavním rizikem je masivní kybernetický útok, který by dokázal vyřadit kritickou infrastrukturu. V ohrožení je přístup k bankovním službám, internetu, elektřině i vodě.

Část odborníků a zástupců odvětví podle zprávy očekává, že by k něčemu takovému mohlo dojít v rozmezí šesti až dvanácti měsíců.

Příčin může být několik. Zmiňuje se nechtěný únik autonomního AI agenta z interního testovacího prostředí nebo zneužití volně dostupných modelů útočníky.

Praktický příklad je snadné si domyslet. Útočník využije pokročilý model k hledání slabin a koordinovaně zasáhne IT systémy bank či rozvodných sítí. Během pár minut se zastaví platby a ve velkých městech vypadne proud.

Nebojí se strojů, ale lidí

Internetem koluje představa vzpoury robotů. Skutečný předmět cvičení je ale mnohem pozemštější: politická a společenská vzpoura lidí.

Veřejnost, aktivisté i zákonodárci by podle scénářů po kolapsu obrátili svůj hněv proti technologiím a jejich tvůrcům. Situaci komplikuje i to, že prezident Donald Trump se k plošné regulaci AI staví odmítavě. Hněv by tak mířil na technologické lídry i na politiky.

Jeden z diskutujících pod zprávou to shrnul takto: „Dokud nenastane pořádný průšvih, který na pár dní vypne banky nebo elektřinu, šéfové technologických firem nepřestanou tlačit AI dopředu bez ohledu na bezpečnost nás všech.“

Cíl: napsat pravidla dřív, než je napíše panika

Proč firmy cvičení vůbec dělají? Chtějí připravit komunikaci a konkrétní návrhy zákonů pro členy amerického Kongresu pro období „dne po katastrofě“.

Snaží se ovlivnit podobu budoucí regulace dřív, než ji pod tlakem paniky nadiktuje tvrdá a plošná legislativa. Ta by mohla přinést úplný zákaz vývoje superinteligence nebo povinné zastavení výzkumu.

Mluvčí OpenAI podle zprávy potvrdil, že firma takové přípravy provádí v rámci práce s různými okolnostmi. Týmy diskutují řadu možných scénářů, které ale nepovažují za nevyhnutelné.

Zda tyto přípravy dokážou zabránit nejhoršímu, ukáže až čas. Boj o podobu umělé inteligence se však může velmi brzy přesunout z kanceláří v Silicon Valley do parlamentních lavic a do ulic.