Deloitte má problém. Média našla v jejich studii citace vymyšlené patrně umělou inteligencí

Vláda kanadské provincie Newfoundland a Labrador požádala poradenskou společnost Deloitte o kompletní prověření citací v jejím novém zdravotnickém plánu poté, co byly ve čtyřech případech odhaleny nesprávné či neexistující zdroje. Informoval o tom zpravodajský server televize CBS. Odhalení přichází krátce poté, co měla provincie podobné problémy se strategickým dokumentem v oblasti vzdělávání, v němž rozhlasová stanice CBS nalezla nejméně 15 vymyšlených citací. Chyby jsou pravděpodobně důsledkem používání nástrojů umělé inteligence (AI).

Dokument měl sloužit jako desetiletý plán pro řešení nedostatku zdravotnického personálu a provincie za něj zaplatila přes 1,6 milionu kanadských dolarů (23,75 milionu Kč). Na nesrovnalosti ohledně citací původně upozornil kanadský server The Independent.

„Deloitte uznal, že čtyři citace jsou nesprávné, zároveň ale trvá na závěrech a zjištěních uvedených ve zprávě,“ sdělil televizi mluvčí ministerstva zdravotnictví Brian Scott. Konzultantská společnost podle něj slíbila bezodkladně prověřit všechny citace a předložit výsledky prověrky vládě.

Využívání AI pro vládní studie bez dostatečné kontroly kritizuje odborářský předák Jerry Earle. Podle něj i čtyři chybné citace podkopávají důvěru v celou 526stránkovou studii, která měla umožnit řešení kritického nedostatku pracovníků. „Jakmile zasejete pochybnosti, lidé začnou zpochybňovat spolehlivost těchto dokumentů,“ uvedl s tím, že bude žádat provinční vládu o zavedení jasných pravidel pro práci externích konzultantů.

Představitelé opoziční Nové demokratické strany (NDP) volají po tom, aby vláda provincie nechala Deloitte vrátit peníze za zhotovení studie po vzoru podobného případu v Austrálii. Tamní pobočka Deloitte musí vládě vrátit část z celkových 440.000 australských dolarů (AUD; 5,97 milionu Kč) zaplacených za zprávu, která obsahovala chyby způsobené takzvanými halucinacemi AI. Šlo podle agentury AP mimo jiné o vymyšlené citace z rozsudku federálního soudu a odkazy na neexistující vědecké práce.

Deloitte po kritice 237stránkovou zprávu přezkoumala a potvrdila, že některé poznámky pod čarou a odkazy byly nesprávné, uvedlo ministerstvo v úterý. „Společnost Deloitte souhlasila s vrácením poslední splátky podle smlouvy,“ dodal resort. Přesná částka bude zveřejněna po vrácení peněz.

Halucinace jsou v kontextu AI a jazykových modelů označením pro vygenerované odpovědi, které obsahují nepravdivé nebo zavádějící informace. Může jít rovněž o výsledek nedostatečných, neaktuálních nebo zkreslených tréninkových dat.