Kdy AI zničí lidstvo? Zásadní zlom přijde příští rok

Když se internet zastaví

Představte si ráno, kdy naskočíte do auta a zjistíte, že benzínová pumpa nefunguje. Bankomat nevydá peníze. Telefon se nepřipojí k síti. A televize hlásí, že dodávky pitné vody jsou přerušeny. Není to sci-fi katastrofa – přesně takový scénář dnes v zákulisí probírají nejvlivnější osobnosti technologického světa.

Dario Amodei z Anthropicu a Sam Altman z OpenAI tráví čas nejen vývojem stále dokonalejších AI systémů, ale také přípravou na okamžik, kdy se jejich technologie vymkne kontrole. A podle nich to není otázka „jestli“, ale „kdy“.

Zatímco veřejnost sleduje pokroky ChatGPT a dalších chatbotů, v uzavřených místnostech se řeší něco mnohem temnějšího: jak přežít politický a společenský kolaps, který přijde ve chvíli, kdy umělá inteligence způsobí první skutečně devastující škodu.

Strach z vlastního výtvoru

Odborníci z oboru už delší dobu varují před existenční hrozbou pro lidstvo. Jenže nyní se situace posunula dál – ti samí lidé, kteří AI systémy vytvářejí, začínají nahlas mluvit o tom, že incident globálního rozsahu je nevyhnutelný.

Nejde přitom jen o teoretické úvahy. Řada specialistů na umělou inteligenci odhaduje, že k zásadní krizi dojde během příštího roku. Možná dřív. Scénáře zahrnují situace, kdy AI agent pronikne z testovacího prostředí do reálného světa, nebo kdy zločinecké skupiny najdou nečekaný způsob, jak veřejně dostupné modely zneužít k útoku na kritickou infrastrukturu.

Výsledkem by mohlo být vyřazení finančních služeb, blackout elektřiny nebo zastavení dodávek vody. A pak? Pak přijde vztek.

Veřejnost, která už dnes k technologickým gigantům chová hlubokou nedůvěru, by se podle simulací obrátila nejen proti firmám, ale i proti politikům. Donald Trump, který odmítá AI regulovat, by se mohl stát terčem masivního tlaku. Stejně jako Altman nebo Amodei – tváře revoluce, která se vymkla.

Kongres nedrží krok

Přípravy na krizový scénář zahrnují i vzdělávání amerických zákonodárců, kteří podle kritiků nedokážou držet tempo s vývojem technologií. Průměrný věk člena Kongresu je přes šedesát let – a mnozí z nich sotva rozumí základům internetu, natož pokročilým AI systémům.

Přesto právě oni budou muset v okamžiku krize reagovat. A technologické firmy si jsou vědomy, že bez politické podpory a pochopení veřejnosti by mohly čelit nejen regulacím, ale i existenčnímu ohrožení svého byznysu.

OpenAI v reakci na dotazy uvedla, že simulace krizových scénářů provádí jako preventivní opatření, nikoliv proto, že by katastrofu považovala za jistou. Anthropic se k věci odmítl vyjádřit. V USA se mezitím mezi politiky už diskutuje o zavedení nouzového vypínače pro pokročilé AI modely – systému, který by dokázal technologii v případě nouze okamžitě odstavit.

Otázka ale zní: Stihne se takový mechanismus zavést včas? A co když ne?