17 października odbyły się warsztaty on-line zorganizowane przez Dyrekcję Generalną ds. Sieci Komunikacyjnych, Treści i Technologii Komisji Europejskiej oraz firmę konsultingową ICF. Spotkanie dotyczyło wypracowania rekomendacji efektywnego wykorzystania systemów sztucznej inteligencji w usługach sektora administracji publicznej. W warsztatach brała udział przedstawicielka Fundacji – Iwona Karkliniewska AI Researcher.
Głównym celem spotkania było zmapowanie istniejących problemów we wdrożeniu systemów AI w administracji publicznej oraz wypracowanie propozycji rozwiązań i rekomendacji dla decydentów prac legislacyjnych w kierunku dostosowania AI ACT oraz roli i znaczenia KE we wdrażaniu prawnych rozwiązań systemów sztucznej inteligencji.
Warsztaty były prowadzone przez przedstawicieli KE i OECD oraz pracowników ICF. Prowadzący zaprezentował zdefiniowane obszary wyzwań we wdrażaniu systemów AI i poprosił obecnych uczestników o zmapowanie problemów, a następnie zaproponowanie rozwiązań.
Praca uczestników warsztatu została podzielona na dwie części. Pierwsza część dotyczyła identyfikacji zagrożeń mających największy wpływ na systemy AI w administracji publicznej, a następnie zaproponowania rozwiązań.
Zagadnienia były podzielone na następujące obszary występujących problemów:
1) zamówienia publiczne;
2) zarządzanie danymi;
3) międzysektorowe wyzwania technologiczne wykorzystywania systemów AI;
4) możliwości organizacyjne instytucji wdrażających systemy AI.
Do każdego z przedstawionych wyżej obszarów zostało sformułowano pytanie, a następnie zdefiniowano wyzwania - problemy, którym należy sprostać w danym obszarze. Uczestnicy w trakcie ćwiczenia szczegółowo przedstawiali kwestie, na które należy zwrócić uwagę w danym obszarze oraz proponowali rozwiązania odnośnie przedstawionych obszarów zagadnień.
Ad.1 W jaki sposób należy sprostać wyzwaniom w procesie zamówień publicznych?
Jako problematyczne zagadnienia wskazano:
- brak rozumienia na poziomie centralnym jeśli chodzi o rolę wykorzystywanych systemów AI oraz płaszczyzny, gdzie te systemy zarządzania AI mogą być dobrym rozwiązaniem; brak wiedzy na temat stosowanych systemów AI;
- brak przejrzystej regulacji w kwestii wykorzystywania systemów wysokiego ryzyka sztucznej inteligencji;
- brak rozróżnienia potrzeb wykorzystywania systemów AI przez sektor publiczny a sektor prywatny.
Ad.2 Jakie wyzwania stoją w kwestii zarządzania danymi przy wykorzystaniu systemów AI?
Ad.3 Jak możemy rozwiązać wyzwania związane z systemami AI w kontekście działań międzysektorowych?
W tym obszarze organizatorzy zdefiniowali następujące problemy:
- ograniczona przejrzystość i mierzalność stosowanych rozwiązań technologicznych;
- efektywność zarządzania danymi, w szczególności zarządzanie procesem potencjalnego powstawania bias;
- brak zrozumienia efektywności wykorzystywania systemów jako systemów wspierających rozwój technologiczny (wartość dodana w procesie);
- rozumienie odpowiedzialności i efektywność zarządzania wykorzystywanych systemów AI w obszarze edukacji, zdrowia, transportu.
Ad.4 W jaki sposób należy rozwiązać wyzwania organizacyjne oraz budować możliwości instytucji wdrażających systemy AI?
- Przede wszystkim zwrócono uwagę na brak kompetencji kadry pod względem wiedzy na temat AI zarówno w kontekście technicznego wykorzystania rozwiązania, jak też rozumienia wykorzystania systemu w oparciu o usprawnienie procesów zarządzania w organizacji;
- skupianie się na rozwiązaniach wdrażających nowinki technologiczne – nieuwzględnianie elementu technologicznego w dłuższej perspektywie funkcjonowania organizacji;
- brak zcentralizowanych zasobów wspierających rozumienie procesu wyboru rozwiązań z wykorzystaniem systemów AI;
- brak opracowanych ram strategicznych – polityki dot. stosowania systemów AI w sektorze publicznym (obecnie jest na bardzo ogólnym poziomie).
W drugiej części warsztatów uczestnicy zostali podzieleni na grupy i w wyniku pracy zespołowej wypracowane zostały propozycje rozwiązań, a także wskazanie roli i znaczenia KE w procesie działań. Fundacja Moje Państwo miała okazję do komentowania zagadnień dotyczących: piaskownic regulacyjnych, standardów wymiany danych, w szczególności zbiorów metadanych; efektywności wykorzystywanych narzędzi komunikacji oraz tematyki tzw. silosów projektów.
Fundacja Moje Państwo zwróciła uwagę na konieczność efektywnego wykorzystywania narzędzi komunikacji i budowania strategii dialogu pomiędzy obywatelami i organizacjami w wykorzystywaniu systemów AI względem obywateli. Dodatkowo podkreślono kwestię konieczności spójnego przekazu informacji na temat AI, na poziome unijnym i krajowym.
Podczas spotkania uczestnicy mogli wymieniać informację na temat prowadzonych ocen i działań w kwestii efektywnego i przejrzystego wdrażania systemów AI. Fundacja podczas warsztatów zaprezentowała wypracowane
postulaty dobrych standardów zarządzania systemami AI/ADM w administracji publicznej. Wypracowane w trakcie warsztatów rozwiązania będą stanowić podstawę do dalszych dyskusji nad dostosowaniem tzw. AI ACT.
Iwona Karkliniewska, AI Researcher