W poniedziałek podczas wspólnego posiedzenia Komisji IMCO i LIBE miało miejsce wysłuchanie z udziałem ekspertów na temat aktu KE w sprawie Sztucznej Inteligencji. Z ramienia grupy EKR w dyskusji wziął udział europoseł Kosma Złotowski.

W pierwszym panelu w roli ekspertów wystąpili :

- Catelijne Muller - prezydent ALLAI

- Max Tegmark - prezydent Future of Life Institute 

- Andrea Renda - dyrektor Global Governance, Regulation, Innovation & Digital Economy at CEPS

Polski polityk zauważył, że w kontekście rozporządzenia KE bardzo wiele mówi się o tworzeniu ograniczeń dla rozwoju i wykorzystania sztucznej inteligencji. „Można odnieść nawet wrażenie, że Komisja zaproponowała anty-AI Act.” - zasugerował Złotowski i poprosił o opinię czy skupienie się wyłącznie na ryzykach i potencjalnych niebezpieczeństwach nie spotęguje wrażenia, że ta technologia jest groźna a konsumenci w konsekwencji będą się bali korzystać z produktów i usług opartych na SI. Ponad to, europoseł chciał wiedzieć także czy dalsze rozszerzanie listy systemów uznanych przez Komisję za zakazane i wysokiego ryzyka jest zdaniem ekspertów konieczne.

Kosma Złotowski zwrócił uwagę, że technologie powstają zawsze w kontekście globalnym i zapytał czy w związku z tym tworzenie regulacji w obszarze AI nie powinno odbywać się na szerszym forum, np. jako konwencje lub umowy międzynarodowe zawierane w ramach WTO, OECD czy ONZ. Był ciekaw również czy przedstawione przez KE propozycje mają potencjał, aby stać się wzorem dla przyszłych regulacji Sztucznej Inteligencji poza Unią Europejską. „Czy podejście regulacyjne proponowane przez Komisję Europejską ma szansę zostać skopiowane w innych częściach świata czy jednak jest zbyt biurokratyczne i anty innowacyjne by zostało uznane za przydatne?” - pytał polityk PiS.

Europoseł zauważył jak wielkim wyzwaniem jest klasyfikowanie ryzyka w sytuacji gdy mówimy o technologii, która ciągle ewoluuje a twórcy algorytmów często przygotowują tylko pewien szkielet technologiczny, który jest wykorzystywany do różnych celów. W związku z powyższym poprosił ekspertów o opinię czy twórca algorytmu powinien ponosić konsekwencje jego niewłaściwego użycia na kolejnych etapach oraz jak często takie przepisy powinny być aktualizowane, aby nadążyć za rozwojem sztucznej inteligencji.

Odpowiadając na pytania polskiego europosła Muller Catelijne uznała, że zaprezentowana przez KE propozycja rozporządzenia nie tylko tworzy jednolite zasady, ale również przenosi na wyższy poziom prace nad sztuczną inteligencją pozwalając na uniknięcie ryzyka.  „Można się kłócić o kropki i przecinki, ale ten dokument jednak zwiera całościowy przewodnik pozwalający na rozwój sztucznej inteligencji, która nie będzie szkodliwa i która ograniczy prawdopodobieństwo skandali, niszczenia reputacji oraz podwyższy poprzeczkę dla podmiotów z całego świata." - przekonywała. Prezydent ALLAI zauważyła także, że Rada Europy pracuje nad swego rodzaju traktatem na rzecz sztucznej inteligencji, aby oszacować jej wpływ na prawa człowieka i że w dużej mierze te dokumenty pokrywają się z propozycjami europejskimi.

Tegmark Max mówił, że również niewystarczająca regulacja ogranicza innowacje i podkreślił, że jeżeli ludzie będą kojarzyć daną technologię z katastrofami, to będzie to realne zagrożenie dla rozwoju SI. Jak wskazał kluczem do innowacyjnych osiągnięć jest promocja bezpieczeństwa inżynierii i zdolność identyfikowania możliwych problemów z wyprzedzeniem. Jego zdaniem w kontekście sztucznej inteligenci powinniśmy mówić również o szkodach społecznych i zastanowić się jak im przeciwdziałać bo jak zauważył to właśnie one stanowią największe zagrożenie dla europejskiej demokracji.

Renda Andrea wyraziła zadowolenie, że omawiany projekt rozporządzenia ostrożnie podchodzi do kwestii sztucznej inteligencji wysokiego ryzyka i że dostrzega iż nie wszystkie zastosowania sztucznej inteligencji są równie ryzykowne. "Oczywiście Unia Europejska to twór biurokratyczny, dlatego trzeba stworzyć system, który będzie wystarczająco elastyczny, aby prowadzić monitorowanie algorytmów." - mówiła i zauważyła, że na arenie międzynarodowej temat SI również jest poruszany, ale jej zdaniem takie porozumienia nie będą równie praktyczne i zdecydowane jak europejskie ramy prawne.

W drugim panelu ekspertami byli:

- Stuart Russell - profesor informatyki na Uniwersytecie Kalifornijskim w Berkeley

- Lukas Klingholz -  Szef działu chmury i sztucznej inteligencji wBitkom

- Sarah Chander- Starszy Doradca ds. Polityki w EDRi

Kosma Złotowski przyznał, że ochrona prywatności to kwestia fundamentalna, ale zauważył, że także technologia, stoi na straży naszego bezpieczeństwa i musi w tą prywatność czasami wkraczać. „Żeby robić to skutecznie służby takie jak policja czy wywiad, muszą mieć odpowiednie narzędzia, a sztuczna inteligencja jest jednym z nich.” - powiedział eurodeputowany i zapytał czy wykorzystanie zaawansowanych algorytmów, w tym profilowania i identyfikacji biometrycznej do takich celów jak walka z przestępczością, wojną informacyjną oraz terroryzmem powinno być wyjęte spod zakresu tego rozporządzenia.

Europoseł zwrócił również uwagę, że organy kontrolne czy administracja nie zawsze dysponują odpowiednimi zasobami i wiedzą, żeby móc ocenić jak działa sztuczna inteligencja ani tym bardziej czy algorytm działa właściwie. Poza tym jak zauważył technologia się zmienia, ewoluuje i wymyka definicjom pisanym kilka lat wcześniej dlatego chciał wiedzieć jaka zdaniem ekspertów powinna być rola biznesu i branży technologicznej w tworzeniu i wdrażaniu przepisów o sztucznej inteligencji oraz w jaki sposób sektor prywatny może wesprzeć organy regulacyjne.

W ostatniej części swojego wystąpienia europoseł PiS wskazał na trudną sytuacje sektora MŚP. „Często patrząc na branżę technologiczną widzimy jedynie największe korporacje. Przepisy też tworzymy z myślą o największych graczach. Jednak innowacje powstają także w małych i średnich firmach i start-upach, które są bardzo wrażliwe na bariery prawne i koszty administracyjne.” - mówił Złotowski. W związku z powyższym zwrócił się z pytaniami czy rozporządzenie KE może uniemożliwić rozwijanie i wdrażanie sztucznej inteligencji przez MŚP w Europie oraz  czy zakres „piaskownic regulacyjnych” zaproponowanych przez Komisję powinien zostać rozszerzony a małe średnie firmy wyłączone spod niektórych ograniczeń czy obowiązków.

Zdaniem Stuarta Russella nie można nakładać zbyt wielu obciążeń na MŚP, które wykorzystują sztuczną inteligencję, ale nie są jej wytwórcami gdyż nie mogą ponosić odpowiedzialności za błędy technologiczne używanych systemów. Z drugiej jednak strony zauważył, że sztuczna inteligencja zwiększa możliwości MŚP. Dzięki niej nawet małe firmy są w stanie współpracować z wielką liczbą klientów i generować olbrzymie zyski, dlatego nie ma podstaw do wyłączenia tego sektora z rozporządzenia.

Powyższą opinię podzielił Lukas Klingholz, który przekonywał, że w przypadku sztucznej inteligencji ogólnego zastosowania koszty są możliwe do przewidzenia i powinny być akceptowalne dla MŚP.