Rakušanův „velký bratr“ dostal zelenou. Podle kritiků obchází kontrolu při sledování lidí

Senátní bezpečnostní výbor posvětil novelu, která podle kritiků umožní obcházet soudní kontrolu při sledování lidí kamerovými systémy. Předloha, za kterou resort ministra vnitra Víta Rakušana (STAN) stihl letos obdržet jednu z cen Velkého bratra, upravuje využívání kamer na rozpoznávání obličejů zejména na pražském Letišti Václava Havla. Jak ale upozorňuje organizace Iuridicum Remedium (IuRe), z předlohy je zřejmé, že se do budoucna počítá i s využitím systémů v jiných veřejných prostorech.

Nová evropská pravidla pro fungování umělé inteligence obsahují poměrně striktní kontrolní mechanismy pro využití systémů na rozpoznávání obličejů přes kamerové systémy na veřejnosti. Spolek Iuridicum Remedium však dlouhodobě upozorňuje na to, že české ministerstvo vnitra předložilo novelu, která se je snaží obejít. I přes jasné výtky v připomínkovém řízení však podle spolku nedošlo k žádné změně.

Organizace apelovala na senátní výbor pro zahraniční věci, obranu a bezpečnost, senátoři však rozhodli doporučit Senátu schválit předlohu ve stávající verzi, stejně tak postupoval i senátní ústavně-právní výbor. Horní parlamentní komora o předloze rozhodne v příštím týdnu.

Ministerstvo vnitra si za svůj přístup vysloužilo anticenu Velkého bratra za "dlouhodobého slídila". Konkrétně za předložený návrh k využívání systémů na rozpoznávání tváří, který je podle poroty jen dalším střípkem k dlouhodobému přístupu resortu k otázkám soukromí.

„Cenu Dlouhodobý slídil získalo ministerstvo vnitra za snahu obejít regulaci využívání systémů na rozpoznávání tváří. Předložilo totiž do legislativního procesu návrh novely zákona, který má mimo jiné upravovat i využívání kamerových systémů s rozpoznáváním tváří. Ačkoli mělo být smyslem předložení návrhu implementovat do českého právního řádu pravidla, která vyžaduje nové Nařízení o umělé inteligenci, tak výsledek naopak popírá základní kontrolní mechanismus používání těchto systémů, kterým má být povolování každého jeho využití nezávislým soudem,” uvedla porota ve zdůvodnění.

Předloha má umožnit kamerovým systémům zejména ve veřejném prostoru ruzyňského letiště na dálku snímat biometrické údaje cestujících, které s využitím umělé inteligence porovná s údaji jednotlivců z policejní referenční databáze. Biometrické údaje cestujících, kteří nebudou ztotožněni s lidmi v referenční databázi, mají v systémech zůstávat až 90 dnů.

„Evropské Nařízení řadí tyto systémy do nejpřísnější kategorie zakázaných postupů v oblasti AI. Jedním z klíčových nástrojů kontroly je nutnost soudního povolení pro každé využití tohoto systému – každým využitím je pak nutno chápat použití systému ve vztahu ke každé konkrétní osobě. Soud (nebo jiný nezávislý orgán) tedy musí povolit zařazení každé konkrétní osoby do referenční databáze osob, které jsou systémem vyhledávány. Návrh ministerstva vnitra posvěcený poslaneckou sněmovnou ovšem tento přístup popírá, když zavádí fakticky dvojí režim,“ popisuje IuRe s tím, že návrh ministerstva vnitra nevyžaduje povolení pro každou konkrétní osobu, nýbrž pouze pro určité plošné „kategorie“.

Do plošně schválených „kategorií“ by přitom zdaleka nemusely spadat pouze závažné trestné činy. „Kategorie osob, které mohou být systémem vyhledávány bez individuálního posouzení, jsou přitom vymezeny vágně. Rozhodně nejde pouze o pachatele závažné kriminality nebo osoby bezprostředně ohrožené na životě, ale o podezřelé z širokého spektra i méně závažných trestných činů či například i o svědky, po nichž je vyhlášeno pátrání a je dán důvod k jejich zadržení kvůli podání svědectví nebo o osoby, kterým se nedaří doručovat například rozsudky v trestních věcech,“ kritizuje dlouhodobě organizace, která se zabývá právem na soukromí.

IuRe také upozorňuje, že se původně návrh ministerstva vnitra neomezoval pouze na mezinárodní letiště, resort ustoupil až na základě připomínek a z důvodové zprávy podle organizace jasně vyplývá, že do budoucna resort počítá s dalším rozšiřováním systémů na rozpoznávání obličejů i mimo letiště. „Kvalitní legislativní záruky proti zneužití tohoto nástroje, které budou nastaveny nyní, stejně jako nedostatky v legislativní práci, jsou tak klíčové i pro možné budoucí rozšiřování použití těchto systémů,“ uvedl advokát a výkonný ředitel organizace Jan Vobořil.

Systém na Letišti Václava Havla je ve zkušebním provozu od června 2018 a v březnu 2019 vláda rozhodla o jeho rozšíření. Nový AI Act přitom řadí systémy na biometrické rozpoznávání obličejů v reálném čase do nejpřísnější kategorie zakázaných postupů v oblasti umělé inteligence. Používání těchto technologií na veřejných místech je od února 2025 obecně zakázáno, ale existují výjimky pro policii a bezpečnostní složky, které mohou systémy AI nasadit při řešení závažných trestných činů, jako je obchodování s lidmi nebo terorismus.