Do tej pory podczas IGF odbyło się wiele ciekawych dyskusji, choć jedna, której gospodarzem był polski Urząd Ochrony Konkurencji i Konsumentów (UOKiK) przykuła szczególnie naszą uwagę. Tematem panelu była „Cyfryzacja poprzez wykorzystanie sztucznej inteligencji w administracji publicznej”. Rozmawiano o rozwiązaniu opartym o system sztucznej inteligencji (AI), które ma wspierać prace UOKiK w wykrywaniu klauzul niedozwolonych w umowach. Tomasz Chróstny, Prezes UOKiK, podkreślił jak wielkim wyzwaniem jest ochrona konsumenta w tak szybko postępującym rozwoju nowych technologii, które mają realny wpływ na życie konsumenta.
Przy pracach nad systemem pojawiło się kilka istotnych refleksji dotyczących tworzenia innowacyjnych systemów.
Przede wszystkim zauważono, że mniejsza efektywność urzędów publicznych wynika ze skupiania się głównie na aspektach prawnych, a nie technologicznych, ze względu na specyficzny charakter czynności wykonywanych przez te podmioty.
Podkreślono, że ważnym aspektem rozwijania i implementowania systemów AI jest zrozumienie sposobu ich działania oraz budowanie wiedzy dotyczącej metod eliminacji naruszeń prawa przy pomocy AI. Niezbędna jest tutaj, także wiedza z zakresu cyberbezpieczeństwa oraz umiejętności analityczne.
Zaakcentowana została potrzeba przygotowania regulacji określającej sposób wyboru dostawcy systemu, którego najważniejszym kryterium powinna być jakość oraz jasne sprecyzowanie efektu końcowego. Co więcej należy stworzyć strategię budowania i rozwijania AI przez podmioty publiczne na podstawie przeprowadzonych pilotaży, które pozwoliły wykształcić najlepsze praktyki w tym zakresie.
Jako Fundacja uważamy za niezbędne wypracowywanie dobrych standardów dotyczących stosowania systemów AI przez sektor publiczny. W tym miejscu warto zasygnalizować, że Fundacja wkrótce opublikuje raport utworzony we współpracy z ekspertami od prawa zamówień publicznych: „Sztuczna inteligencja i automatyczne podejmowanie decyzji – wytyczne dla sektora publicznego.
W trakcie dyskusji zwrócono też uwagę, że przy rozwijaniu AI ważnym elementem składowym jest zaangażowanie użytkownika końcowego systemu, który będzie na późniejszym etapie trenował dany system. Zrozumienie dlaczego tworzony jest dany system i jak działa dana organizacja, a także nauczenie się odczytywania i korzystania z danych zawartych w rejestrach publicznych jest podstawą osiągnięcia sukcesu. Z tych względów jednym z najważniejszych elementów powodzenia zbudowania i wdrożenia AI jest znalezienie osób, które posiadają zarówno odpowiednią wiedzą jak i doświadczenie, co stanowi obecnie spore wyzwanie.
Eksperci jako jeden z najtrudniejszych momentów pracy z AI wskazali implementację, w której często pojawiają się sytuacje, których nikt nie był w stanie przewidzieć. Podczas dyskusji wskazano, że tego rodzaju sytuacje mogą wystąpić, pomimo prawidłowo przygotowanego planu i dobrze wykonanej pracy na wcześniejszych etapach. Dlatego niezbędny jest stały nadzór systemów opartych o AI i kontrolowanie decyzji podejmowanych przez te systemy.