Jest projekt ustawy o sztucznej inteligencji: “powołanie Milicji AI”, “można taki tekst napisać w miesiąc”

Projekt ustawy o systemach sztucznej inteligencji opublikowany

Aby zrozumieć, czym jest opublikowany projekt, należy w pierwszej kolejności przypomnieć, co stanowił sam AI Act. Można bowiem odnieść wrażenie, że spora część deweloperskiego i biznesowego komentariatu spodziewała się po polskiej ustawie wprowadzenia mechanizmów i instytucji, które stymulowałyby rozwój działalności polskich firm rozwijających sztuczną inteligencję, jak dziś nazywa się kolejne iteracje dużych modeli językowych.

Założeniem AI Act była jednak regulacja rynku w taki sposób, aby zapobiec nadużyciom. Jak pokazuje doświadczenie amerykańskie czy francuskie, można budować bardzo udane LLM-y na wolnym rynku, ew. z wykorzystaniem państwowych grantów. AI Act od początku zaś miał ograniczać sytuacje, w których sztuczna inteligencja byłaby wykorzystywana przeciw obywatelom UE z naruszeniem wartości zasadniczych dla Wspólnoty. Rozczarowanie wynika z tego, że w projekcie ustawy pojawia się przede wszystkim nadzór i kontrola, a nie nowe programy stymulujące rozwój SI.

Zobacz też: Donald Tusk: Nie jedna, dwie elektrownie jądrowe. Natychmiastowa reakcja Amerykanów i Kanadyjczyków

Same założenia oraz najważniejsze przepisy AI Act omawialiśmy, gdy dyrektywę udało się przyjąć. Przypomnijmy, że zabrania się w UE rozwijania m.in. takich systemów sztucznej inteligencji, które pozwalałyby na kategoryzowanie użytkowników z użyciem wrażliwych danych, agregowanie zdjęć z internetu i kamer przemysłowych w celu uczenia algorytmów rozpoznawania twarzy, rozpoznawanie z użyciem SI emocji w miejscu pracy i szkołach czy budowanie systemów punktacji społecznej na wzór chiński.

Ograniczeń jest znacznie więcej, jednak AI Act, co bardzo ważne, nakłada je także na służby. Wobec nich dopuszcza się co prawda używanie części rozwiązań SI, ale tylko w ściśle określonych zastosowaniach: podczas poszukiwań osób porwanych, ofiar handlu ludźmi i niewolnictwa seksualnego, zapobiega konkretnemu i obecnemu (nie może być wykorzystywane prewencyjnie) zagrożeniu terrorystycznemu lub służy odnalezieniu i identyfikacji podejrzanych o najcięższe przestępstwa.

Akt o sztucznej inteligencji. Polska zdecydowała: nie będzie inwigilacji, ani punktowania obywateli jak w Chinach Czytaj dalej

Leszek Bukowski: “powołanie Milicji AI Ministerstwa Cyfryzacji”

Projekt polskiej ustawy o systemach sztucznej inteligencji co do zasady musi więc stanowić implementację powyższych postanowień AI Act, które ma ujarzmić rosnący w niebezpiecznym tempie rynek. Swoje trzy grosze dołożył minister Gawkowski, który po opublikowaniu tekstu stwierdził, że “przepisy AI Act nie mogą być ograniczeniem, tylko powinny wspierać w korzystaniu i wzmacniać innowacje. Muszą pomagać w życiu codziennym i usprawniać administrację publiczną”.

Regulacja sztucznej inteligencji w Polsce stanowi o zakazie stosowania oprogramowania w celach tożsamych z tymi opisywanymi w AI Act. Podobnie jak w dyrektywie część narzędzi SI objętych zakazem dla cywili będą mogły wykorzystywać służby, jednak wyłącznie we wskazanym już zakresie. W Polsce mamy niestety doświadczenie szpiegowania obywateli z użyciem Pegasusa i można spodziewać się w tej kwestii nadużyć, niemniej mówimy o wciąż o samym projekcie ustawy, a jeszcze nie o egzekwowaniu prawa.

W drugim ostatnim kluczowa będzie nowo powstała Komisja Rozwoju i Bezpieczeństwa Sztucznej Inteligencji. Nabór na jej prezesa ma być otwarty, a członkowie nie będą utrzymywać uposażenia, ani nawet zwrotów kosztów podróży. To właśnie na Komisji spoczywać będą obowiązki w zakresie rozpoznawania i badania systemów i nośników, pieczętowania lokali po interwencjach, które będą mogły być przeprowadzane z udziałem policji. Przez Leszka Bukowskiego zajmującego się algorytmami przetwarzania języka naturalnego i uczeniem maszynowym taka działalność określona została mianem “Milicji AI Ministerstwa Cyfryzacji”. Podkreśla on, że wyłącznie działaniu rzeczonej milicji w projekcie poświęcono 40 z… 44 stron.

Regulacja ustanawia nowe instytucje i stanowi deklarację tego, w jaki sposób władze i służby będą zapobiegać nadużyciom w rozwoju SI. Bardzo niewiele uwagi poświęcono zaś zagadnieniom merytorycznym, np. kryteriom oceny, które posłużą do stwierdzenia naruszeń. Zabezpieczono więc narzędzia - policja będzie mogła zabezpieczać komputery w zasadzie tak, jak w przypadku działalności cyberprzestępczej - jednak niewiele uwagi poświęcono technicznym aspektom codziennej pracy analitycznej komisji. Można odnieść wrażenie, że mamy do czynienia z ustawą o przeciwdziałaniu piractwu komputerowemu, a nie z próbą uregulowania najpewniej bardzo ważnej innowacji technicznej.

Regulacja sztucznej inteligencji jak walka z cyberprzestępcami

Na aktualnym etapie można powiedzieć, że projekt zakłada, iż na podstawie zgłoszeń lub własnych ustaleń Komisja Rozwoju i Bezpieczeństwa Sztucznej Inteligencji będzie rozpoznawać w dostępnym na rynku oprogramowaniu SI niezgodne z prawem funkcje. Następnie z udziałem policji będzie zabezpieczać dowody w postaci np. serwerów czy nośników, by w końcu poświęcić się analizie funkcjonalności rozwijanego SI czy jego kodowi źródłowemu. Dopiero wówczas, jeśli przypuszczenia się potwierdzą, nakładana będzie grzywna w wys. do 7 proc. globalnych obrotów.

Łukasz Olejnik, uznany na całym świecie ekspert ds. bezpieczeństwa informacyjnego, zwraca uwagę, że jako wdrożenie dyrektywy polska ustawa jest skrupulatna, jednak dostrzega liczne problemy: “ta ustawa ogranicza się do właściwie prostych rzeczy, bo w żaden sposób nie traktuje o sprawach merytorycznych AI. Można taki tekst napisać w miesiąc”. Ponadto Olejnik zwraca uwagę, że nowo powstała Komisja de facto dubluje rolę Urzędu Ochrony Danych Osobowych jako regulatora SI. “Będą konieczne podwójne, a czasem nawet potrójne zgłoszenia do urzędów” - podsumowuje ekspert na swoim koncie w X.