Globální poradenská firma KPMG ohledně AI citovala vymyšlené studie a přeháněla rozšíření technologie, píše FT

Zpráva britské poradenské společnosti KPMG o zavádění umělé inteligence (AI) ve firmách tento trend výrazně zveličovala pomocí falešných případových studií. Informoval o tom deník Financial Times (FT) s tím, že šlo zřejmě o důsledek takzvaných halucinací, tedy nepravdivých, zavádějících nebo zcela vymyšlených informací vygenerovaných velkými jazykovými modely.

Říjnová zpráva s názvem Nová definice dokonalosti v éře agentní umělé inteligence (Redefining excellence in the age of agentic AI) obsahovala řadu nepravdivých tvrzení o využívání AI například švýcarskou bankou UBS, britským státním zdravotním systémem NHS, Švýcarskými spolkovými drahami nebo londýnským dopravním podnikem.

Po upozornění na problém banka UBS uvedla, že požádá KPMG o odstranění nepravdivých tvrzení. KPMG zprávu už z některých svých webových stránek stáhla, dodal FT.

Jde o nejnovější případ zjevných halucinací umělé inteligence ve veřejných dokumentech a studiích prezentovaných velkými poradenskými společnostmi. Minulý měsíc z tohoto důvodu musela studii stáhnout společnost EY. Vyznačovala se mimo jiné falešnými poznámkami pod čarou, ale i dalšími chybami.

Loni se kvůli halucinacím AI dostala do potíží také poradenská společnost Deloitte, a to opakovaně. Australská pobočka měla vládě vrátit část z celkových 440.000 australských dolarů (AUD; 6,5 miliardy Kč) zaplacených za zprávu, která obsahovala vymyšlené citace z rozsudku federálního soudu a odkazy na neexistující vědecké práce. Deloitte po kritice 237stránkovou zprávu přezkoumala a v říjnu potvrdila, že některé poznámky pod čarou a odkazy byly nesprávné.

V listopadu pak vláda kanadské provincie Nový Foundland a Labrador požádala Deloitte o kompletní prověření citací v novém zdravotnickém plánu, neboť ve čtyřech případech byly odhaleny nesprávné či neexistující zdroje.

KPMG sídlí v Londýně a spolu s Deloitte, EY a PwC patří do takzvané velké čtyřky globálních firem zaměřených na účetní poradenství.