W dniu 8 czerwca 2022 r. podczas międzynarodowej konferencji RightsCon 2022 organizowanej przez Access Now, odbył się panel dyskusyjny Fundacji Moje Państwo pt.„AI/ADM systems in the Central and Eastern European (CEE) public sector: what can go (or went) wrong regarding citizens' rights?).
W panelu dyskusyjnym wzięli udział:
Monika Kajalidis, członek zarządu Fundacji Moje Państwo;
Sandor Lederer, współzałożyciel i dyrektor K-Monitor;
Holger Zscheyge, prezes Europejskiego Stowarzyszenia Technologii Prawniczych (ELTA), założyciel Infotropic Media.
Magdalena Siwanowicz-Suska, dyrektor prawny Fundacji Moje Państwo (w roli moderatora)
Podczas panelu zostały omówione różne aspekty rozwoju systemów AI/ADM w sektorze publicznym na przykładzie Polski, Węgier i Rosji. Dyskutowano o takich kwestiach jak
- obecna sytuacja jeśli chodzi o wykonywanie krajowych strategii AI w regionie Europy Środkowo-Wschodniej (CEE);
- polityczne i gospodarcze aspekty wdrażania AI w regionie CEE (w tym wpływ wojny w Ukrainie na rozwój AI w Rosji);
- dobre praktyki i przykłady wdrożeń AI/ADM w administracji publicznej oraz kontrowersje wokół takich systemów;
- ryzyka związane z AI w sektorze publicznym dla praw obywateli.
- Sandor Lederer przedstawił sytuację wdrażania systemów AI/ADM na Węgrzech. Węgierska strategia AI została opublikowana w 2020 roku. Dokument ma charakter bardziej technologiczny i w dużej mierze dotyczy rozwoju sztucznej inteligencji w sektorze prywatnym. Na Węgrzech wiedza na temat sztucznej inteligencji wśród urzędników kształtuje się na poziomie średnim, a poziom wykorzystania technologii jest bardzo niski. Na rynku cyfrowym Węgier można zaobserwować monopolizację w kwestii zbierania danych osobowych.
- Monika Kajalidis wskazała na proaktywne podejście administracji rządowej w kwestii realizacji polityki AI oraz widoczność działań sektora publicznego dla społeczeństwa. W Polsce istnieje np. dedykowana strona internetowa, na której można znaleźć bazę danych o wdrażanych publicznych innowacjach wraz z mapą innowacji w regionach Polski. Przy Kancelarii Prezesa Rady Ministrów została powołana specjalna Grupa Robocza ds. sztucznej inteligencji, w której pracach bierze również udział Fundacja Moje Państwo. Strategia rozwoju AI Polski szczegółowo przedstawia działania rozwoju sztucznej inteligencji, a także wskazuje krótkoterminowe, średnioterminowe i długoterminowe cele strategii. Dokument jest podzielony na 6 tematycznych obszarów i zawiera wytyczne dla przedsiębiorstw oraz dla sektora publicznego.
- Holger Zscheyge podkreślił, że strategia rozwoju AI w Rosji została opublikowana w 2017 roku. W dokumencie zostały przedstawione ambitne plany i cele wdrożenia technologii sztucznej inteligencji do 2030 roku. Rosja aspiruje w dokumencie do globalnego lidera w kwestii sztucznej inteligencji. Najwięcej przedsiębiorstw wykorzystujących systemy AI jest skupionych w Moskwie (79%) i St. Petersburgu (10%). Istnieje duża luka w rozwoju technologii AI w regionach Rosji. Sektor prywatny nie uczestniczy w dużej mierze w sektorze publicznym w kwestii rozwoju technologii sztucznej inteligencji. Wojna na Ukrainie w znaczny sposób wpłynie na obecną sytuacje rynku innowacji w Rosji poprzez wprowadzone sankcje, relokacje dużych firm – takich jak Yandex, odpływ wykwalifikowanego personalu IT oraz zmniejszony dostęp do technologii i wyposażenia. Według Holgera Zscheyge, w efekcie będziemy mogli zaobserwować zmniejszenie inwestycji w tym sektorze gospodarki.
- Na Węgrzech dobrym przykładem stosowania AI w sektorze publicznym jest system używany przez administrację podatkową w celu zapobiegania nadużyć finansowych i praniu brudnych pieniędzy. Kontrowersyjnym przykładem wykorzystania algorytmów AI było wykorzystanie kwestionariusza w szkołach dla dzieci w celu zaplanowania przyszłej kariery. Kolejnym wymagającym dyskusji przykładem, jest wykorzystanie na Węgrzech AI w systemach CCTV (Closed Circuit TeleVision) do monitorowania ulic oraz rozpoznawania twarzy.
- W Rosji nie ma informacji na temat kontrowersyjnego wykorzystania algorytmów AI w sektorze publicznym. W większości projekty są kończone ze względu na wykorzystanie źle dobranego zbioru danych lub ze względu na brak wystarczających inwestycji w tym sektorze. W regionach algorytmy AI są powszechnie wykorzystywane w Centrum Kontaktowym Miasta (ze względu na braki odpowiednich zasobów ludzkich). Algorytm AI potrafi odpowiedzieć na 50 tematycznych zagadnień – przykładowo w kwestii otrzymania wsparcia finansowego, czy też procedury wymiany paszportu. Infolinia dziennie otrzymuje do 65 mln telefonów. Sztuczna inteligencja w Rosji w sektorze publicznym jest również wykorzystywana do kontroli kierowców transportu publicznego oraz monitorowania ulic i wykrywania przestępstw.
- Polsce Centralne Biuro Antykorupcyjne wdrożyło system kontrolujące prawidłowość przyznawania dotacji dla przedsiębiorstw w związku z Covid19. Dotarcie do informacji dotyczących systemu stanowiło duże wyzwanie. Ministerstwo Sprawiedliwości wykorzystuje algorytmy do przypisania spraw sędziom w sądach powszechnych. Zapytania Fundacji dotyczące dostępu do informacji publicznej o sposobie działania systemu losowego przydziału spraw nie przyniosły na pierwszym etapie skutków. Sprawa została skierowana do wojewódzkiego sądu administracyjnego, jednak dopiero dalsze postępowanie i korzystny dla Fundacji wyrok Naczelnego Sądu Administracyjnego (NSA) doprowadziły do pożądanego efektu (informacje o systemie zostały udostępnione). Wyrok NSA przesądzający, że informacje o algorytmie systemu używanego przez władze publiczne jest informacją publiczną jest dużym sukcesem Fundacji Moje Państwo. W przyszłości orzeczenie może być znaczącym punktem odniesienia w kwestii dostępu do informacji na temat wykorzystywanych algorytmów AI/ADM w administracji publicznej. Cała dokumentacja na temat systemu losowego przydziału spraw używanego w sądownictwie została opublikowana na stronie Ministerstwa Sprawiedliwości.
- Uczestnicy panelu jednogłośnie doszli do wniosku, że informacja na temat sztucznej inteligencji i wdrażanych algorytmów AI/ADM powinna być powszechna, przejrzysta i dostępna. Powinien zostać utworzony ujednolicony system wykorzystywania systemów AI w administracji publicznej, w szczególności w procesie realizacji zamówień publicznych. Ważnym aspektem jest też stworzenie ujednoliconych stron z bazami danych, w których obywatel może znaleźć informację na temat stosowanych systemów i algorytmów sztucznej inteligencji w administracji publicznej. Istotną kwestią jest też zwiększanie wiedzy wśród urzędników i specjalistów administracji publicznej na temat AI oraz sposób zarządzania algorytmami. Kwestia własności prawnej posiadania udostępnionych algorytmów przez przedsiębiorstwa administracji publicznej jest w dalszym ciągu nierozwiązana.
- Fundacja Moje Państwo opublikowała raport na temat wykorzystania AI/ADM w zamówieniach publicznych – wytyczne dla sektora publicznego. Dokument spotkał się z dużym zainteresowaniem i został opublikowany na stronie Ministerstwa Cyfryzacji.
- Prace na AI ACT w Komisji Europejskiej według uczestników wymagają włączenia ekspertów i społeczeństwa obywatelskiego do dyskusji nad zmianami w akcie prawnym, wprowadzając przejrzyste, wiarygodne i zrozumiałe zasady wykorzystania systemów AI/ADM dla społeczeństwa przez administrację publiczną.
Opracowała: Iwona Karkliniewska, Researcher Fundacji Moje Państwo