Aktywnie bierzemy udział w dyskusji, toczącej się wokół tematu sztucznej inteligencji i automatycznego podejmowania decyzji w sektorze publicznym.
Do 6 sierpnia 2021 roku, Komisja Europejska prowadziła konsultacje publiczne, w sprawie przepisów dotyczących stosowania sztucznej inteligencji. Poniżej prezentujemy niektóre z naszych uwag, przedstawionych w opinii z naszymi rekomendacjami.
- Z perspektywy Fundacji, regulacja powinna – w większym stopniu – zapewniać przejrzystość działania sektora publicznego w związku z wykorzystywaniem systemów sztucznej inteligencji.
- Systemy sztucznej inteligencji mogą być używane przez publiczne instytucje w wielu kluczowych obszarach takich jak np.: ochrona zdrowia, edukacja, świadczenia społeczne, sądownictwo czy gospodarka. W konsekwencji, systemy te mogą mieć bardzo szeroki zasięg oddziaływania i mogą dotyczyć wielu różnych grup społecznych, w tym, tych szczególnie narażonych na dyskryminację. Używanie systemów sztucznej inteligencji przez państwo, w wielu sytuacjach może prowadzić do kształtowania przez te systemy zakresu praw i obowiązków obywateli.
- Fundacja zwraca uwagę, że może dojść do sytuacji, w której system sztucznej inteligencji – z pozoru przeznaczony do pomocniczych czynności administracyjnych – faktycznie będzie miał wpływ na sprawowanie władzy publicznej (np. w wymiarze sprawiedliwości), w tym na bezpośrednią sytuację obywateli. Mylna interpretacja w określeniu, czy dany system sztucznej inteligencji jest systemem wysokiego ryzyka czy nie, w szczególności, w przypadku jego wykorzystywania przez władze publiczne, może mieć szeroki zakres negatywnych skutków dla obywateli, w związku z niższym stopniem transparentności działania takiego systemu.
- Ze względu na to, że większość systemów sztucznej inteligencji używanych przez instytucje publiczne będzie miało potencjalnie znaczący wpływ na ukształtowanie praw lub obowiązków obywateli, postulujemy, by w proponowanej regulacji wzmocnić narzędzia umożliwiające kontrolę władz publicznych nad implementacją sztucznej inteligencji.
- Uważamy, że wszystkie systemy oparte na sztucznej inteligencji, które są wdrażane w instytucjach publicznych mogą potencjalnie wpływać na prawa i obowiązki obywateli. Nie wszystkie z tych systemów sztucznej inteligencji będą niebezpieczne, ale większość z nich będzie posiadała potencjał szerokiego i głębokiego oddziaływania na społeczeństwo, w tym także, w zakresie ewentualnych niepożądanych skutków, np. w razie błędu.
- W 2019 r. rekomendowaliśmy utworzenie publicznie dostępnej bazy (na poziomie krajowym), zawierającej wszystkie systemy oparte na sztucznej inteligencji, które są wykorzystywane przez instytucje państwowe. Podtrzymujemy tę rekomendację bo uważamy, że w większości przypadków, wykorzystanie systemu sztucznej inteligencji w sektorze publicznym może mieć wpływ na sytuację obywateli i jako takie może generować wysokie ryzyko dla ich praw i obowiązków.
Zapoznaj się z treścią całej opinii Fundacji Moje Państwo:
https://bit.ly/2VuQFHr*Projekt ten uzyskał wsparcie Europejskiego Funduszu ds. Sztucznej Inteligencji, wspólnej inicjatywy Sieci Fundacji Europejskich (NEF). Wyłączna odpowiedzialność za projekt spoczywa na organizatorze, a treść projektu niekoniecznie musi odzwierciedlać stanowisko Europejskiego Funduszu ds. Sztucznej Inteligencji, jej Partnerów czy Sieci Fundacji Europejskich.