Fakulta elektrotechnická ČVUT uspěla v evropském programu AutoFair zaměřeném na umělou inteligenci. Škola získá z programu Horizon Europe patnáct milionů korun na řešení některých otázek AI a zároveň bude koordinovat aktivity dalších institucí. AutoFair má celkový rozpočet 95 milionů korun.
V evropské výzvě HUMAN-01 se sešlo 206 žádostí. Tříletý projekt AutoFair je jediným projektem koordinovaným z České republiky. Na starost ho dostal tým Jakuba Marečka z Centra umělé inteligence na FELu.
Do aktivit se zapojují i prestižní školy Imperial College London nebo Institute of Technology Technion z Izraele. Nadnárodní společnosti a lokální startupy poskytnou data pro trénování AI.
Mareček AutoFair vysvětluje takto:
Cílem projektu AutoFair je zaručit, že AI algoritmy nebudou nikomu stranit. Umělá inteligence fungující jako černá skříňka, do jejíhož rozhodování nemáme vhled, totiž představuje značné riziko. Algoritmus může fungovat pro řadu lidí uspokojivě, ale pro některé může fungovat velmi špatně.
Jednou ze strategií, jak s tímto rizikem pracovat, je práce s daty. Výběr dat pro učení systému musí být reprezentativní a nepřenášet nerovnosti ve společnosti do vývoje algoritmů. Opačnou strategií je důsledně vysvětlovat veřejnosti fungování a omezení AI systémů. Tato strategie se tedy týká komunikačních aspektů po samotné implementaci.
Projekt AutoFair kombinuje oba tyto extrémní přístupy: chce vylepšit samotné algoritmy a zároveň vzdělávat koncové uživatele. Opírá se proto o poznatky z počítačových a datových věd, teorie řízení, optimalizace a dalších vědních disciplín, včetně etiky a práva.
Otázky související s etikou umělé inteligence se běžně prozkoumávají v počítačovém vidění. Řada lidí k odemčení mobilu používá systém pro rozpoznání obličeje. Ten však poměrně dlouho fungoval spolehlivě jen pro muže bílé pleti a úspěšnost pro etnické menšiny byla ještě donedávna podstatně nižší. Tento problém daný nereprezentativností dat se již podařilo odstranit. Umělá inteligence má však řadu dalších použití, kde podobné etické problémy dodnes přetrvávají.
Výstupy projektu budou testovány na třech případových studiích průmyslového využití napříč třemi odvětvími. Prvním z nich je automatizace férového hodnocení při náboru zaměstnanců, druhým je odstranění genderové nerovnosti v reklamě a třetím je oblast finančních technologií, konkrétně eliminace diskriminace klientů bank.
Vznik tří případových studií doprovodí expertní skupiny složené ze zástupců byznysu, veřejných orgánů, nevládních organizací i politiků. Pohled všech zájmových skupin bude stěžejní pro výzkumný proces a zvýší potenciál pro praktickou aplikaci výsledků projektu. Reálná implementace vědeckých poznatků a etické využití umělé inteligence jsou hlavní devizou projektu AutoFair.
Věřím, že se výstupy projektu podaří promítnout také do plánované regulace umělé inteligence, kterou připravuje Evropská komise.
ČLÁNKY DO MAILU