21 kwietnia na łamach POLITICO ukazał się wyciek
projektu raportu dot. AI Act. Raport został opracowany wspólnie przez dwie komisje Parlamentu Europejskiego (IMCO, LIBE) przy wsparciu posła PE Brando Benefei i Dragosa Tudorache, przewodniczącego specjalnie powołanej Komisji ds. sztucznej inteligencji - AIDA. Dokument przedstawia założenia zmian zapisów w
AI Act w kontekście zwiększenia ochrony praw podstawowych i obywatelskich, nakłada większe obowiązki na użytkowników AI oraz wprowadza zmiany dla sektora publicznego wykorzystującego systemy zarządzania sztuczną inteligencją.
Jedną z istotnych zmian jest wymóg rejestracji systemów sztucznej inteligencji o wysokim ryzyku przez administrację publiczną w powszechnie dostępnych bazach przed jego pierwszym uruchomieniem. Osoby, których dane wrażliwe są wykorzystywane w systemach AI o wysokim ryzyku, powinny być o tym informowane. Bazy danych powinny być przejrzyste, dostępne i czytelne dla wszystkich użytkowników. Dodatkowo zaproponowano, by administracja publiczna publikowała wyniki przeprowadzonych analiz wpływu wykorzystywanych systemów sztucznej inteligencji na prawa podstawowe człowieka. Prawo do prywatności i ochrony danych osobowych powinno być zagwarantowane w ciągu całego cyklu użytkowania systemów AI, w tym zgodnie z zasadą minimizacji i anonimizacji danych. Osoby dotknięte skutkami wykorzystywania AI w obszarze zdrowia, bezpieczeństwa lub praw podstawowych będą mieć prawo do wniesienia skargi i żądać zadośćuczynienia.
Fundacja Moje Państwo 18 lutego 2022 roku wystosowała
pismo do posła PE Brando Benefei z propozycją zmian zapisów w AI ACT w kontekście działalności sektora publicznego i praw podstawowych. W przesłanych postulatach były wskazane m.in. kwestie dotyczące wzmocnienia sytuacji prawnej osób, które zostały objęte negatywnym działaniem AI, utworzenie powszechnie dostępnych baz danych, zawierających informacje o systemach sztucznej inteligencji wykorzystywanej przez administrację publiczną, obowiązek informowania obywateli o wykorzystywanych systemach AI i ewentualnych jego skutkach przez sektor publiczny.
Przesłane propozycje zmian do AI Act przez Fundację w większości zostały uwzględnione w przygotowanym projekcie raportu IMCO – LIBE, jednak zmiany dotyczą obszarów wysokiego ryzyka systemów AI. Jednym z ważnych sukcesów jest uzyskanie możliwości dochodzenia przez obywatela swoich praw w związku z wykorzystaniem systemów AI oraz powstałych negatywnych skutków dla osoby.
Szczegółowo ze stanowiskiem Fundacji można zapoznać się
tutaj.
W AI Act pozostają nadal luki prawne, a mianowicie w kontekście:
- definicji sztucznej inteligencji;
- rejestracji wszystkich systemów AI wykorzystywanych przez administrację publiczną – nie tylko systemów o wysokim ryzyku;
- uregulowanie zakazu wykorzystywania pozyskanych danych biometrycznych w przestrzeni publicznej;
- informowanie osób o stosowaniu wobec nich systemów AI przez sektor publiczny przed podjęciem decyzji;
- prawo osób do niepodlegania systemom AI niezgodnym z AI Act.
Zaproponowane zmiany do AI ACT mogą zostać złożone jako poprawki przez posłów PE do 18 maja.