21. duben 2021 / Jan Klesla
Bruselská pravidla pro umělou inteligenci: proregulujeme se konečně k prosperitě?
Robot nesmí ublížit člověku, musí uposlechnout jeho příkazu a chránit se před poškozením. Tři zákony robotiky, které před skoro osmdesáti lety napsala legenda žánru sci-fi Isaac Asimov, jsou živé i dnes, kdy je umělá inteligence už velmi reálná. V plné verzi tři věty, 61 slov, 320 znaků, které dávají jasná a srozumitelná pravidla. Oproti tomu návrh regulace AI, který Evropská komise představí ve středu a unikl minulý týden, má 82 stran. Každý v podnikatelském prostředí jistě ví, že pokud je něco osmkrát delší než ona povídka, kde Asimov své tři zákony představil, nebude se nejspíš jednat o jasná a jednoduchá pravidla. A skutečně, francouzský trojkomisař Thierry Breton se svými lidmi se rozhodl zregulovat všechny technologie souhrnně označované jako umělá inteligence, jako něco mimořádně nebezpečného, ohrožujícího zdraví, život a hlavně lidská práva nás všech. Skoro to vypadá, že chce zastavit ony terminátory, kteří jdou zotročit lidstvo.
Nalepte značku CE na AI systém
Nové nařízení, které je přímo účinné ve všech státech bez další implementace do národního práva, pracuje se třemi kategoriemi pravidel. První zakazuje například systémy sociálního kreditu, algoritmické kádrování obyvatel, jaké se testují v Číně. To je zcela v pořádku a už dnes by to ostatně v EU bylo v rozporu s existující ochranou základních práv a soukromí, takže je to zbytečné ustanovení. Naopak otevírá dveře kontroverznímu využití rozpoznávání obličejů represivními složkami, se kterým nedávno narazila i třeba pražská městská policie. V druhé kategorii stanoví obecná pravidla, podle kterých se musí například chatbot představit, což je dosud zejména v neanglických jazycích spíše úsměvné. Dá se i přemýšlet o tom, že budou mít vývojáři menší motivaci překonat tzv. turingův test, když nebude možné komerčně nabízet chatbota nerozpoznatelného od člověka.
Hlavní problém a většina masivního textu je v třetí části takzvaných vysoce rizikových aplikací. Tedy takových, kde by mohlo dojít k ohrožení základních práv, třeba při prověřování bonity klienta finanční instituce. Příkladem může být asi nejúspěšnější český fintech Twisto, který svůj byznysmodel staví právě na lepší AI, než mají banky. Je úplně jedno, že už podléhá finanční regulaci a přísnému dohledu ČNB, pokud regulace projde, bude se tým, jenž se nedávno rozšířil z Prahy do Varšavy, zastavit, předělat vnitřní systémy, doplnit další lidi a zveřejnit detaily svého algoritmu a konkurenční výhody.
V neposlední řadě pak projít procesem získání CE, který musí mít třeba benzín, výbušniny, lanovky, trafostanice, nebo zdravotnické prostředky. Lehce nedomyšleně se v regulaci doslova píše, že na AI systém, třeba neuronovou síť v cloudu, se musí nalepit značka CE. To vše může trvat značnou dobu a stát značné peníze, odhad Komise, podle kterého bude podnik stát splnění nových povinností ročně méně, než měsíční plat průměrného euroúředníka vypovídá o jejím kontaktu s reálným světem. Především je ale problém, že na tento seznam chtějí dopisovat další výrobky podle své libovůle sami bruselští úředníci podle vágních pravidel. Každý s AI systémem, včetně jejich uživatelů, se tak budou bát, že se někdo špatně vyspí a dostane nápad, kde chránit lidstvo.
Nejlepší dárek k brexitu
Evropská unie se přitom už tři roky potýká s úkolem, jak dohnat USA, Velkou Británii a také Čínu právě v „závodě o AI.“ Ačkoliv stále vedeme ve výzkumu, aplikace a zejména přenos na trh váznou. Junckerova komise tak přišla s ambiciózním plánem, jak rozvoj umělé inteligence podpořit a zdá se, že ta současná dosáhne pravého opaku. Skoro to vypadá, jako by hodila ručník do ringu a řekla si, že pokud nemůžeme zvítězit, alespoň zastavíme pronikání cizích technologií do EU, třeba zlých amerických IT gigantů, na které má obzvláště spadeno. Pravděpodobně to nebude vadit velkým evropským koncernům, jako třeba polostátní francouzský Atos, kterému donedávna šéfoval právě eurokomisař Breton.
Obětí budou startupy. V prostředí přeregulace a právní nejistoty se ti nejlepší mohou vydat třeba nejblíže do Londýna, kde vstoupí na trh a následně se vrátí do získat CE do EU. Pokud jim to bude vůbec ještě stát za to. Pomoc pro ně vymyslela Komise šalamounsky – zaúkolovala tím národní státy, alespoň nějakou úlevu pro malé a střední firmy ale nedává žádnou. Navíc bude obrovský problém sehnat už dnes nedostatkové experty na AI, kteří budou dělat veškeré požadované zkoušky a dohled. Snadno se tak může stát, že kapacitu na to budou mít jen velké země EU, jako je Francie a Německo.
Jedna stránka stačí
Nejhorší na nové všeobjímající regulaci AI je, že je úplně zbytečná. Ochranu základních práv máme v EU velmi robustní a k tomu pravidla ochrany spotřebitele i soukromí. Že fungují dokazuje i fakt, že všechny příklady, na nichž Komise staví nutnost regulace se odehrály mimo EU, většinou v USA a ve Velké Británii, v Evropě by to neprošlo, či nikoho ani nenapadlo. Celý seznam tak vypadá spíše jako výpisky z amerického a britského vydání populárního IT magazínu Wired. Přitom by bylo opravdu potřeba řešit reálné otázky jako z jakého povinného ručení se zaplatí, když vás nabourá Tesla na autopilota. Případně upravit sektorové předpisy, třeba ve financích. Za to se ale politické body sbírají hůře.
V oblasti etiky AI by pak nejlépe zafungovaly dobrovolné kodexy, ke kterým se hlásí firmy samy a dobrovolně, což je oblast kde odvedl skvělou práci tým naší eurokomisařky Věry Jourové. Jednoduchá a jasná pravidla, která si sepíší AI vývojáři a experti sami, nepotřebují pro to filosofy, archeology, nebo nedejbože úředníky. Když by to nevyšlo, stačilo by pár stránek, jasné a srozumitelné mantinely v dynamicky se rozvíjejícím odvětví, ne zbytečný těžkotonážní předpis s novým bruselským úřadem a spoustou peněz z kapes daňových poplatníků, který zastará ještě než projde několikaletým legislativním kolečkem. Mimochodem nejkontroverznější uplatnění AI v armádě je z návrhu výslovně vyňato, takže ti terminátoři se vyvíjet smí. A zákaz, aby stroj ublížil člověku v něm také výslovně chybí, vyplývá z už dnes platné legislativy.