8. listopad 2021 / Jan Klesla

Jan Klesla: Neudusme umělou inteligenci regulací

V minulém newsletteru se David ptal, jak byste regulovali Matyldu, tedy umělou inteligenci. Mám radost, protože tohle téma je skutečně #topodstatné pro budoucnost ČR a EU a jak ukázala i zmíněná předvolební debata lídrů s Matyldou, není u nás diplomaticky řečeno zrovna ve středu zájmu. Jak tedy regulovat AI v Evropě? Krátká odpověď zní nijak. Nebo lépe zatím nijak. Regulace se kterou přišla Evropská komise je doslova nadbytečná a udusí konkurenceschopnost evropských firem v odvětví, které naopak bude motorem světové ekonomiky, a to zvláště v době rapidní digitalizace po covidu. Jak je to možné? Vemte si třeba firmu Rossum.ai, pojmenovanou na počest Karla Čapka. Skvělý český startup, který se zaměřuje na automatické čtení faktur, šetří kancelářskou práci, peníze a lidi. Zrovna ve středu oznámili investici 100 milionů dolarů a míří k tomu stát se prvním českým AI unicornem. Vynikající úspěch, jen si člověk říká, jestli jejich investoři počítali s tím, že do dvou let budou mít své peníze v tvrdě regulovaném odvětví? Řeknete si, co je to za blbost, kdo by reguloval čtení faktur? Ale pozor, Rossum nabízí i obdobně automatické čtení CV. Šikovná věc, pokud se vám hlásí stovky kandidátů. Jenže, to už jsme v HR systémech a ty nám Evropská komise považuje za tzv. vysoce rizikové. Stačí, aby třeba Rossumové nechali svůj systém předtřídit jestli mají uchazeči o práci alespoň základní angličtinu a musí si na něj nechat doslova nalepit nálepku CE. Vážně, CE označení na neuronovou síť. Neboli posouzení shody, které se dělá třeba u elektrotechnických výrobků, nebo hořlavin. To znamená přeložit nejspíš veškerou dokumentaci do němčiny, nebo francouzštiny a dát stovky tisíc euro nějakému velkému úřadu na západ od nás, který bude umět to samé, co s elektromotorem i pro neuronovou síť. K tomu ještě najmout spoustu drahých lidí jenom na dohled, splnit celou řadu dalších povinností, či si nechat konkurenci koukat do zdrojového kódu. Nebo jim tento směr prostě investoři důrazně nedoporučí rozvíjet a personalisti budou dál třídit ručně. Proč? Protože v USA kdosi zneužil chybu v AI k diskriminaci afroameričanů. Co na tom, že v Evropě je to trochu nepravděpodobný problém a diskriminaci podle rasy i třeba věku už nám pokrývá přísný antidiskriminační zákon? Mohl by... To samé třeba fintech, kde je hvězdou zase Twisto se svojí AI jménem Nikita. Co na tom, že už jsou dávno v regulovaném odvětví a každý jejich krok hlídá ČNB? Komise jim ještě naloží další povinnosti. To už není Čapek, ale Kafka.

Asi nejhorší je ale změna mentality. Každý nový AI start-up bude první místo do vývoje samotného produktu, investovat do právníků, aby zjistil, jestli má vůbec smysl pokračovat. Nebo se prostě ti nejlepší seberou a odstěhují do USA, či do Británie, která už rovnou oznámila, že nic takového, jako Brusel nepřijme. Tohle je opravdu vysoká cena za to, abychom regulovali potenciální hrozbu, která se ještě nestala (tzv. ex ante). Nebo se to nestalo v EU, právě proto, že už na to předpisy dopadají. Počkat, počkat, možná namítnete, ale co ochrana našich práv, ať nedopadneme jako v Číně? Nu, ale my už máme ne dva, ale tři systémy jejich ochrany, dva evropské (Chartu a Úmluvu) a jeden národní (Listinu). A hromadu judikatury k tomu. Naposledy, když se pokusil před lety HomeCredit přijít s jednoduchým a původem čínským algoritmem do Česka, dostal cenu velkého bratra a potichoučku zase vycouval. Opravdu si nemyslím, že takový nechtěný postbrexitový dáreček pro Borise Johnsona v podobě našich nejlepších firem stojí za to, aby si jeden francouzský gentleman v Bruselu udělal úplně zbytečný pomníček.

Ano, je spousta oblastí, které regulovat máme. Třeba data, vstupy pro každé AI. Ale na to je tady už GDPR a další chystané předpisy. Podobně je to v případě internetu, ten se také reguluje skrze vstupy, jako jsou telekomunikace. Dokonce třeba ani v právním řádu není definice internetu jako takového a nezdá se, že by to nějak bránilo jeho rozvoji. A to samé platí pro AI. Důležitá je také odpovědnost za škodu. Málo sexy téma, ale o to důležitější, protože Tesla na autopilot vás skutečně může nabourat už dnes. Jenže, to Komise naopak odsouvá a bojuje s iluzorními hrozbami, které se lépe vyjímají v titulcích. Až budeme mít skutečné důkazy o skutečných dírách v našem - už tak dost přebujelém - právním systému, pojďme je zalepit. Do té doby je lepší investovat čas a peníze do úsilí, aby byly Matyldy o něco chytřejší.