Cyfrowa dekada i godność człowieka. Co nas czeka w przyszłości?

Krzysztof Izdebski

Krzysztof Izdebski

06 stycznia 2020

Przeczytasz w 8 minut

Big data przerosną swoją nazwę, automatyczne podejmowanie decyzji stanie się oczywistością, social media narobią jeszcze większego zamieszania. To na dobry początek. A co będzie się działo z danymi służącymi obywatelem i obywatelkom?

Rok 2019 był kolejnym, w którym informowano o postępie w przewidywaniu przyszłości przez sztuczną inteligencję. Ponieważ dotychczasowe osiągnięcia są tyleż medialne co skromne, jak na razie przewidywanie przyszłości na kolejne 10 lat pozostawiliśmy ludziom. Czyli, w tym wypadku nam.  Czy z dobrym rezultatem? To się za kilka lat okaże. 

Wielkie big data

Big data to nie jest nowe zjawisko, bo działania na dużych zestawach danych były podejmowane od dobrych kilku lat. Ale coś się w pewnym momencie “zapchało” i dopiero rozwój “chmury” i technologii takich jak 5G i AI pozwalają na efektywne wykorzystanie danych.  

Przypomnijmy, że big data to “termin odnoszący się do dużych, zmiennych i różnorodnych zbiorów danych, których przetwarzanie i analiza jest trudna, ale jednocześnie wartościowa, ponieważ może prowadzić do zdobycia nowej wiedzy”. Generalnie chodzi o to, że dane o ile jest ich odpowiednio dużo, mogą nie tylko odzwierciedlić stan faktyczny, ale co ważniejsze służyć do konstruowania zatrważająco (oczywiście wszystko zależy od perspektywy i wykorzystania tego potencjału) dokładnych modeli przyszłych zachowań ludzi np. konsumentów danego towaru lub też nawet do kreowania ludzkich zachowań. Należy podkreślić jeszcze istotność szybkości przetwarzania danych, bo to, w wysokim stopniu determinuje ich użyteczność. 

Danych jest coraz więcej i sami się do tego dokładamy. Przejazdy taksówką, obecność na portalach społecznościowych, zakupy (nie tylko w Internecie) czy rozliczanie się ze skarbówką powoduje, że różne podmioty posiadają coraz to więcej informacji. I to takich, które warto z punktu widzenia biznesu, konsumentów czy państwa przetwarzać by usprawniać swoje usługi lub po prostu ułatwiać życie. Bardziej skuteczne leczenie, lepsze prognozowanie gospodarki i zjawisk społecznych, bardziej efektywna kontrola wydatków publicznych to tylko niektóre z korzyści, które wprowadzą systemy analizy danych. Istnieją też ryzyka w postaci “oderwania” danych od człowieka i wynikającego z tego braku kontroli co się z tymi danymi dzieje. 

W nadchodzącej dekadzie znikną dwa dotychczasowe ograniczenia związane z przetwarzaniem danych. Wraz z rozwojem cloud computingu (chmury) będziemy mogli przechowywać i przetwarzać nieograniczone zasoby danych oraz robić to bardzo szybko. Wymusi to wreszcie wdrożenie jednolitych standardów, dzięki którym dane dotyczące różnych zjawisk (np. transportowe, rynku nieruchomości i rynku pracy) będą mogły być skutecznie ze sobą łączone. Z drugiej strony, w dalszym ciągu nie mamy (ze skromnym wyjątkiem RODO) dedykowanych rozwiązań prawnych, które określą zasady pobierania i przetwarzania danych nieosobowych (nie pozwalających na identyfikację konkretnego człowieka) przez firmy prywatne. Należałoby wprowadzić takie ramy, które będą zobowiązywały firmy do przekazywania danych dotyczących kwestii publicznych (np. transportu czy zanieczyszczenia powietrza) właściwym władzom i szerzej obywatelom i obywatelkom. 

Big data, to tylko sposób wykorzystania technologii, która co warto przypominać, nie jest ani zła ani dobra. Tylko od sposobów jej kontroli i wykorzystania zależy czy będzie narzędziem, które ułatwia ludziom życie czy (zgodnie z nazwą) wielkim problemem. 

Wiemy również, że skuteczna analityka dużych zestawów danych będzie wspierana przez rozwój sztucznej inteligencji i to do niej będzie należała najbliższa dekada. 

Sztuczna inteligencja automatycznie podejmuje decyzje

Świat zamiera w oczekiwaniu. Jaki kształt przybierze rozwój technologii związany ze sztuczną inteligencją? Im więcej danych będzie dostępnych, tym więcej usług będzie wspomaganych przez cyber mózgi. O ile trudno przesądzić czy w ciągu najbliższej dekady sztuczna inteligencja będzie w stanie zastąpić człowieka na wszystkim polach jego działalności (raczej jest to wątpliwe), to coraz częściej nie będziemy świadomi (lub będzie nas to coraz mniej obchodziło - kiedyś tajemnica korespondencji była jednym z wyznaczników wolności, dzisiaj oddajemy ją właściwie bez zastanowienia i bez oporów), że jesteśmy na każdym kroku poddawani jej wpływowi. Od wyboru tego co czytamy czy oglądamy w Internecie, odgadnięcia, że mamy ochotę na pizzę, po ujawnienie, że nasze zachowania konsumenckie noszą za sobą ryzyko bankructwa, co może, w rezultacie, zakwalifikować nas do gorszej kategorii obywateli. 

Sztuczna inteligencja zostanie również coraz częściej wdrażana w stosunkach państwo obywatel. Będzie stosowana na przykład do oceny naszej “uczciwości” wobec państwa i jednym z pierwszych wdrożeń będzie oparcie systemu skarbowego na analizie naszych finansów, rozliczeń z kontrahentami, zachowań konsumenckich itp. Niestety, nie wydaje się również, że władze unikną pokusy wykorzystywania sztucznej inteligencji do przyznawania pomocy społecznej, realizacji prawa do edukacji czy wreszcie do prewencji przestępczości. Te obszary działania państwa wiążą się z największymi ryzykami i stanowią pole do dyskryminacji ludzi i manipulowania opinią publiczną również w kontekście politycznych wyborów. 

Co istotne, państwo będzie zmuszone do współdziałania z sektorem prywatnym, który dużo lepiej będzie sobie radził z rozwojem technologicznym. W konsekwencji, będziemy mieli do czynienia z większą jeszcze niż obecnie, faktyczną prywatyzacją usług publicznych. Sektor prywatny z definicji będzie dążył do tak zwanej optymalizacji kosztów. Dlatego bardzo istotne jest wprowadzenie właściwych regulacji i to wprowadzenie ich szybko. Nie możemy dopuścić do sytuacji, w której jakość działania państwa i prawa obywatelskie nie zmieszczą się w czyimś bilansie finansowym.

Powinniśmy już teraz budować takie modele regulacyjne, które wymuszą przejrzystość procesów i zagwarantują, że nikt nie będzie podlegał automatycznej i systemowej dyskryminacji. Tym tematem zajmowaliśmy się już w 2019 roku, a obecnie zaangażowaliśmy się w prace Ad Hoc Committee on Artificial Intelligence – CAHAI przy Radzie Europy, do którego przekazaliśmy, wspólnie z innymi organizacjami, nasze uwagi dotyczące otoczenia regulacyjnego dla sztucznej inteligencji. Te prace na pewno będziemy intensyfikować. Na marzec planujemy wydanie przewodnika po zamówieniach publicznych w zakresie sztucznej inteligencji i automatycznego podejmowania decyzji, ale wszystkich nas czeka jeszcze długi marsz. Sztuczna inteligencja jeszcze nas zaskoczy. Tym ważniejsze jest przygotowanie się na te niespodzianki. 

Media społecznościowe - nowe otwarcie i nowe terytoria. 

Obserwując działalność organów regulujących konkurencję, trudno oprzeć się wrażeniu, że platformy internetowe jakie obecnie znamy, przekształcą się w bardziej otwarte systemy, które pozornie będą dopuszczać większą konkurencję na rynku. Coraz więcej rządów nie tylko zauważa, ale próbuje coś robić z rosnąca potęgą takich graczy jak Facebook (ten temat stał się jednym z punktów rozpoznawczych kampanii jednej z najpoważniejszych kandydatek na urząd prezydenta Stanów Zjednoczonych - Elizabeth Warren). Pytanie jednak na ile te działania okażą się skuteczne. Obecne systemy ustawodawcze i antymonopolowe zupełnie nie nadążają za tempem zmian. Jeżeli to się nie zmieni, żadne realne narzędzia kontroli nie mają szans się pojawić. Należy też pamiętać, że  rynek wcale nie jest taki duży, a użytkownicy i użytkowniczki raczej oczekują spójnych rozwiązań dla Polski, Stanów Zjednoczonych czy Tajwanu niż rozproszonych archipelagów aktywności w Internecie.

Media społecznościowe będą odgrywać coraz większą rolę w kontaktach państwo obywatel. Idea one-stop-shop czyli “jednego okienka” w kontaktach z administracją będzie odbywać się za pośrednictwem najbardziej popularnych platform, co będzie jeszcze bardziej podbijać ich popularność. I w tym przypadku, państwa zrezygnują z rozwijania swoich narzędzi komunikacyjnych i przeniosą ciężar kontaktu z obywatelami i obywatelkami na prywatne komunikatory. Podobnie, jak w przypadku sztucznej inteligencji i tu trzeba będzie - regulacyjnie lub na podstawie dedykowanych umów - określić zasady działania, aby zagwarantować prawo do dobrej administracji, szeroką neutralność rozwiązań technologicznych i ochronę prywatności. 

Co to oznacza dla obywateli i obywatelek?

Chociaż ważnym komponentem działań Fundacji zawsze była technologia, to najbliższa dekada oznacza jeszcze większe zaangażowanie w ten obszar. Niezależnie od tego, które z przewidywanych przez nas zmian nastąpią, będziemy dbać o przejrzystość państwa. Uważamy, że należy jak najszybciej opracować i wdrożyć regulacje dotyczące automatycznego podejmowania decyzji i sztucznej inteligencji, również w zakresie przejrzystości pobieranych i przetwarzanych danych. Mamy wreszcie nadzieję, że dane dotyczące państwa i działalności jego funkcjonariuszy będą w pełni zdigitalizowane, a to, poprzez pracę nad kolejnymi narzędziami umożliwi nam jeszcze lepszą kontrolę władz. 

Nie zapominamy jednak, że to co jest najważniejsze i nie zmieni się w tej i w kolejnych dekadach, to nasze przywiązanie do praw człowieka i tego, że są takie same w realu, jak i w Internecie.