Bill Gates varuje před pandemií bioteroru. „AI může zjednodušit vývoj biologických zbraní a smrtelných nemocí“

Miliardář a filantrop Bill Gates varuje, že rychlý rozvoj umělé inteligence může v příštích letech zásadně proměnit fungování společnosti. Podle spoluzakladatele Microsoftu sice AI přinese významné pokroky například v medicíně, zároveň ale může způsobit rozsáhlé propouštění, posílit autoritářské státy či usnadnit vývoj biologických zbraní. „Umělá inteligence bude buď největším nástrojem k vyrovnávání rozdílů, jaký kdy byl vynalezen, nebo nejhorším zdrojem nespravedlnosti,“ napsal na svém blogu Gates Notes.

Gates své obavy popsal v rozsáhlém eseji věnovaném dopadům umělé inteligence. Tvrdí v něm, že svět už vstoupil do období, kdy se technologie vyvíjí rychleji, než na ni dokážou reagovat vlády, instituce i veřejnost. A i při optimistickém vývoji podle něj čeká lidstvo mimořádně bouřlivé přechodné období.

Jedním z největších rizik je podle Gatese zneužití umělé inteligence k nebezpečným účelům. Současné systémy už podle něj dokážou vyhledávat a zpracovávat informace využitelné při výrobě výbušnin, počítačových virů nebo biologických zbraní. Stejná technologie, která může vědcům pomoci při vývoji nových léků a vakcín, může podle něj zároveň usnadnit návrh nových nebezpečných patogenů a biologických zbraní.

Sedmdesátiletý magnát dodal, že k tomu dochází v době, kdy „vedoucí představitelé, odborníci a komunity se s těmito výzvami nestaví adekvátně“ – a nemají „plán“. „Ačkoli umělá inteligence povede k pokroku v oblasti léků a vakcín, který zachraňuje životy, usnadní také návrh nové smrtelné nemoci. Opět platí, že pozitivní schopnosti je těžké oddělit od těch nebezpečných. To je globální problém,“ napsal.

Gates upozorňuje, že problém spočívá právě v tom, že pozitivní a nebezpečné možnosti umělé inteligence od sebe nelze snadno oddělit. Nástroje vyvinuté pro legitimní výzkum mohou využít také lidé nebo organizace s destruktivními úmysly. AI může současně výrazně zvýšit schopnosti států používat sílu, sledovat obyvatele nebo manipulovat veřejným míněním. „Autonomní zbraně například umožní vládám používat smrtící sílu bez toho, aby byl člověk přímo součástí rozhodování,“ upozornil Gates.

Druhou velkou oblastí je trh práce. Podle Gatese se tentokrát technologická změna nebude týkat pouze manuální práce, protože AI dokáže analyzovat informace, komunikovat, vytvářet text, programovat a postupně zvládá stále složitější úkoly. Gates proto očekává, že zasáhne právní služby, zdravotnictví, zákaznickou podporu, výrobu i softwarový průmysl, píše britský deník Daily Mail.

Zásadní rozdíl oproti předchozím průmyslovým revolucím podle něj spočívá v rychlosti. „AI zasáhne tato odvětví během jednoho desetiletí, nikoli během několika generací,“ uvedl. Nová pracovní místa sice podle něj vzniknou, bez vhodné hospodářské a sociální politiky jich však může být výrazně méně než těch, která zaniknou.

Gates proto navrhuje vytvořit určité oblasti, v nichž by společnost vědomě ponechala práci lidem, i kdyby ji technicky dokázal zvládnout stroj. Používá pro ně označení „human reserved“, tedy něco jako sféra vyhrazená lidem. Přirovnává ji k přírodním rezervacím, kde se společnost také dobrovolně rozhodne nestavět silnice nebo budovy, přestože by to bylo technicky možné.

Jako příklad uvádí péči o nemocné. Vzpomíná přitom na zdravotníky, kteří se starali o jeho otce trpícího Alzheimerovou chorobou. Podle Gatese existují situace, kdy je lidský kontakt nenahraditelný. Za nevhodné například považuje představu, že by pacientovi zprávu o nevyléčitelné nemoci sděloval robot. „Technicky neexistuje důvod, proč by to nemohl udělat. Přesto by to dělat neměl,“ napsal.

Rozvoj robotizace podle něj vyžaduje rovněž změnu daňového systému. Současné nastavení podle Gatese v některých případech firmy motivuje k nahrazování zaměstnanců stroji, protože investici do robota lze účetně odepsat jako firemní náklad.

Gates proto navrhuje, aby stát hledal způsob, jak automatizovanou práci zdaňovat podobně jako práci lidskou. Podobnou myšlenku prosazoval už v minulosti. Gates zároveň tvrdí, že část technologického průmyslu o skutečném rozsahu rizik otevřeně nehovoří. Podle něj existuje rozdíl mezi tím, co o budoucnosti AI říkají někteří lidé z technologického sektoru soukromě, a tím, jak se vyjadřují veřejně.

V rozhovoru pro The New York Times uvedl, že lidé, kteří dobře rozumějí současným schopnostem AI a tempu jejího vývoje, bývají v soukromí výrazně znepokojenější. Jedním z důvodů zdrženlivosti může podle Gatese být ekonomický zájem technologických firem. Prudké varování před riziky by totiž mohlo komplikovat získávání dalších investic do rychle rostoucího odvětví.

Gates současně nevěří, že by bylo realistické celosvětově zastavit nebo výrazně zpomalit vývoj umělé inteligence. Ekonomická a geopolitická konkurence podle něj vytváří příliš silný tlak na pokračování technologického závodu. „Kdyby někdo měl důvěryhodný plán, jak globálně zpomalit pokrok umělé inteligence, pravděpodobně bych ho podpořil. Nemyslím si ale, že se to stane,“ uvedl.

Za důležitou proto považuje alespoň mezinárodní spolupráci při snižování největších rizik. Podle něj bude zapotřebí zejména určitá míra spolupráce mezi Spojenými státy a Čínou. Gates podle zveřejněného textu usiluje také o setkání s čínským prezidentem Si Ťin-pchingem, při němž by chtěl o bezpečnostních otázkách spojených s umělou inteligencí jednat.

Gates přitom nevolá po úplném odmítnutí nové technologie. Naopak připouští, že umělá inteligence může přinést zásadní zlepšení v medicíně, vědě nebo vzdělávání. Hlavním problémem je podle něj rychlost změny a absence jasného plánu, jak její negativní důsledky zvládnout.