Nový model AI vyděsil bankovní systém. Ve Washingotnu se urgentně sešel ministr Bessent s bankéři
OBAVY Z UMĚLÉ INTELIGENCE
Šéf americké centrální banky (FED) Jerome Powell a ministr financí Scott Bessent se tento týden mimořádně sešli s vedením největších amerických bank. Tématem nebyla inflace ani úrokové sazby, ale rizika spojená s novým modelem umělé inteligence Mythos od společnosti Anthropic. Ten dosáhl takové úrovně, že je schopen odhalovat zranitelnosti ve všech velkých operačních systémech a prohlížečích a navrhovat i možnosti jejich zneužití a mohl by tak paralyzovat celý americký finanční systém. Upozorňují Bloomberg a Financial Times.
Podle informací amerických médií proběhlo setkání v úterý ve Washingtonu, kde se bankéři původně účastnili pravidelného jednání Financial Services Forum. Nečekaná schůzka na ministerstvu financí však naznačila, že téma je považováno za mimořádně urgentní.
Diskuse se zaměřila především na možné kybernetické hrozby, které by pokročilé modely umělé inteligence mohly představovat pro finanční systém. Přítomni byli šéfové klíčových institucí včetně Bank of America, Citigroup, Goldman Sachs, Morgan Stanley a Wells Fargo. Výjimkou byl pouze generální ředitel JPMorgan Chase Jamie Dimon, který se setkání podle dostupných informací nemohl zúčastnit, přestože byl pozván.
Právě Dimon přitom na rizika dlouhodobě upozorňuje. Ve svém letošním dopise akcionářům označil kybernetické hrozby za jedno z největších rizik pro finanční sektor a varoval, že rozvoj umělé inteligence situaci s velkou pravděpodobností ještě zhorší. Podle něj si obrana proti těmto hrozbám vyžádá výrazné investice.
Centrální banka (FED) se k jednání oficiálně nevyjádřila a ministerstvo financí ponechalo dotazy bez odpovědi. Samotná skutečnost, že se schůzka odehrála za účasti dvou nejvýznamnějších ekonomických autorit v zemi, ale podle pozorovatelů vysílá jasný signál: vláda začíná brát bezpečnostní dopady umělé inteligence velmi vážně.
Podle společnosti Anthropic její model Claude Mythos našel a zneužil kritické chyby ve všech hlavních operačních systémech i webových prohlížečích. Šlo přitom i o velmi staré a nenápadné chyby, které unikaly lidským expertům i automatizovaným nástrojům řadu let. Model údajně zvládl i složité útoky, například kombinaci několika zranitelností najednou, obcházení bezpečnostních mechanismů nebo tvorbu vzdálených zneužitelností s plným převzetím systému.
„Nejsme přesvědčeni, že by k tomu měl mít v tuto chvíli přístup každý,“ uvedl Logan Graham ze společnosti Anthropic pro NBC. „Nejprve musíme přijít na to, jak se na takový svět připravit, než se budeme moci vypořádat s myšlenkou, že k tomu budou mít přístup zločinci,“ dodal.
„Modely umělé inteligence dosáhly takové úrovně programátorských schopností, že při vyhledávání a zneužití softwarových zranitelností dokážou překonat všechny lidi s výjimkou těch nejzkušenějších,“ varuje v oznámení společnost Anthropic. Ta tak zároveň umožnila přístup asi 50 softwarovým a hardwarovým gigantům, jako například Microsoftu, Nvidii či Amazonu, aby model mohly použít k opravě svých systémů.
Na informaci o schopnostech nového modelu však už reaguje i burza. Jak upozorňují Financial Times index softwarových společností, který je součástí S&P 500, klesl v pátek o 1,6 %. Košík akcií softwarových společností banky Goldman Sachs klesl dokonce o 5 %. Akcie jedné z největších firem na světě zabývající se kyberbezpečností Palo Alto Networks klesly o 7 %, podobně akcie společnosti CrowdStrike klesly o 4 %.
