O rekomendacji EDPS w sprawie Raportu Komisji UE o SI - zdań kilka

Pojawiła się (29 czerwca 2020) Opinia EDPS (EDPS Opinion on the European Commision's White Paper on Artificial Intelligence - A European Approach to excellence and trust) dotycząca Dokumentu (White Paper) (z 19 lutego 2020) Komisji UE sztucznej inteligencji (SI) - Europejskiego podejścia do doskonałości i zaufania. 

Mój komentarz do opinii EDPS oraz dokumentu Komisji UE został napisany wobec Opinii dra Michała Nowakowskiego (prawnika) przedstawionej na LinkedIn , zgadzając się z Jego opiniami, ale z punktu widzenia informatyka.

1. Podstawową wadą tych rekomendacji, zawartych w Opinii EDPS,  jest fakt, że dotyczą one jedynie obszaru UE, a rozwój informatyki jest ponadregionalny i obecnie szczególnie szybko jest rozwijany w USA, Chinach, Indiach, itp., czyli poza „naszą” kontrolą. A więc staniemy przed problemem obrony granic przed „wchodzeniem” na nasz obszar tych nowych technologii SI.
2. Oczywiście przewidywanie co może mieć negatywny wpływ na osoby czy społeczeństwo jest praktycznie niemożliwe, szczególnie że nawet projektanci nowych algorytmów SI nie są w stanie w 100% przewidzieć kiedy, jak i czego się te algorytmy nauczą i jaki będzie finalny skutek ich działań w funkcji czasu.
3. To dążenie do objęcia regulacją prawną praktycznie wszystkich sfer życia osób i społeczeństwa w słusznym celu ochrony ich praw podstawowych jest nielogiczne, gdyż tym samym właśnie będzie wkraczać w sferę wolności tych osób i społeczeństwa. Ochrona tych praw, po ich precyzyjnym zdefiniowaniu, powinna się skupiać na wykrywaniu i ściganiu tych, którzy te prawa naruszają przynosząc ewidentne szkody osobom czy społeczeństwu. Inaczej mówiąc, mniej jest istotne kto co wie o innych, tylko w jakim niecnym celu z tych informacji korzysta.
4. Przyjęcie założenia o „zero-risk” dla SI jest bezprzedmiotowe, gdyż wtedy jedynym sensownym działaniem powinno być zaprzestanie jakichkolwiek prac nad tymi projektami. Gdyby takie założenie przyjęto w transporcie, to dzisiaj jeszcze chodzilibyśmy tylko pieszo niosąc na plecach dobytek, a szewcy pracowaliby pod pręgierzem, bo jakby się ktoś pośliznął w ich butach, to mógłby komuś zrobić krzywdę.
5. Sztuczna inteligencja wysokiego ryzyka powinna być zakazana? – cytuję ten tytuł z opinii M.Nowakowskiego, gdyż wobec takiej opinii do rekomendacji EDPS do EU o SI, może być tylko jedna odpowiedź – Tak, powinna być zakazana. W rozwinięciu zakazanie SI w przypadku niekompatybilności z prawami podstawowymi prowadzi do stwierdzenia, że to nóż, atom, samochód, … jest winny danego przestępstwa czy zbrodni, a nie osoba, czy grupa osób, która użyła tej techniki w przestępczym celu. Prawa podstawowe narusza (najczęściej) władza, która za wszelką cenę chce zmusić społeczeństwo do zaakceptowania ich prawa do wiecznego władania. A jakiej do tego używa techniki – setek TW, czy SI - nie ma znaczenia. Oczywiście im lepsza technika tym może być im łatwiej, ale nie ma takiej siły, aby jakieś rekomendacje powstrzymały taką władzę do rezygnacji z prac na rozwojem tej lepszej techniki.
6. Audytowalność jest już bardzo trudnym w realizacji wymaganiem w odniesieniu do obecnych algorytmów (w tym sprzętu cyfrowego). W przypadku rozwiązań SI, będzie to już praktycznie niemożliwe (chyba że zostaną opracowane algorytmy "SI do kwadratu", potrafiące dokonać takiego audytu), gdyż taki audytowany algorytm z każdym przebiegiem, nawet dla tych samych danych wejściowych, będzie się zachowywał inaczej, bo z każdym obserwowanym (audytowanym) wykonaniem będzie się doszkalać i dawać inne rezultaty.
7. Niestety z dużym niepokojem widzę ten proces standaryzacji w zakresie SI, między innymi dostępu do danych (dzisiaj są one takie jak widzimy, pojutrze mogą być już zupełnie inne).
8. I na koniec moja rekomendacja dla Komisji UE. Bardzo proszę przy tych wszystkich dyskusjach, zapraszać informatyków, specjalistów od SI, aby może nie tyle zajmowali stanowiska, ale w każdym takim przypadku dokładnie objaśniali adwersarzom i negocjatorom o co w rzeczywistości toczy się spór i jaki jest już stan wiedzy teoretycznej i technicznej na ten sporny temat. To bardzo ułatwi dochodzenie do konsensusu oraz może zapobiegnie powstaniu rekomendacji szkodzących rozwojowi SI przynoszącemu korzyści społeczeństwu.