EROD i EIOD o projekcie aktu w sprawie sztucznej inteligencji

Europejska Rada Ochrony Danych (EROD) i Europejski Inspektor Ochrony Danych (EIOD) wezwali do zakazu wykorzystywania sztucznej inteligencji do automatycznego rozpoznawania cech ludzkich w przestrzeni publicznej oraz niektórych innych zastosowań sztucznej inteligencji, które mogą prowadzić do niesprawiedliwej dyskryminacji.

Wspólna opinia

EROD i EIOD przyjęli wspólną opinię w sprawie wniosku Komisji Europejskiej na temat rozporządzenia ustanawiającego zharmonizowane przepisy dotyczące sztucznej inteligencji.

EROD i EIOD z dużym zadowoleniem przyjmują cel, jakim jest zajęcie się wykorzystaniem systemów sztucznej inteligencji w Unii Europejskiej, w tym wykorzystaniem tych systemów przez unijne instytucje, organy lub agencje. Jednocześnie oba organy są zaniepokojone wyłączeniem z wniosku międzynarodowej współpracy w egzekwowaniu prawa.

EROD i EIOD podkreślają również potrzebę wyraźnego wyjaśnienia, że istniejące prawodawstwo UE w zakresie ochrony danych (RODO, rozporządzenie UE 2018/1725 i dyrektywa 2016/680) ma zastosowanie do każdego przetwarzania danych osobowych objętego zakresem projektu rozporządzenia dotyczącego sztucznej inteligencji.

Choć EROD i EIOD z zadowoleniem przyjmują podejście oparte na analizie ryzyka, na którym opiera się wniosek, uważają, że pojęcie „ryzyka dla praw podstawowych” powinno zostać dostosowane do unijnych ram ochrony danych. Zalecają, aby ocenić i złagodzić również ryzyka społeczne dla grup osób fizycznych. Ponadto zgadzają się z wnioskiem dotyczącym rozporządzenia wskazującym, że sklasyfikowanie systemu sztucznej inteligencji jako systemu wysokiego ryzyka niekoniecznie oznacza, że jest on sam w sobie zgodny z prawem i jako taki może być wdrożony przez użytkownika. Obie instytucje uważają również, że przestrzeganie zobowiązań prawnych wynikających z prawodawstwa Unii - w tym w zakresie ochrony danych osobowych - powinno być warunkiem wstępnym wprowadzenia na rynek europejski produktu posiadającego oznakowanie CE.

Biorąc pod uwagę niezwykle wysokie ryzyko, jakie stwarza zdalna biometryczna identyfikacja osób w przestrzeni publicznej, EROD i EIOD wzywają do ogólnego zakazu wszelkiego wykorzystywania sztucznej inteligencji do automatycznego rozpoznawania cech ludzkich w przestrzeni publicznej, takich jak: rozpoznawanie twarzy, chodu, odcisków palców, DNA, głosu, naciśnięć klawiszy i innych sygnałów biometrycznych lub behawioralnych, w jakimkolwiek kontekście.

Podobnie EROD i EIOD zalecają zakaz stosowania systemów sztucznej inteligencji wykorzystujących dane biometryczne do podziału osób na grupy ze względu na pochodzenie etniczne, płeć, poglądy polityczne lub orientację seksualną, czy z innych względów, wobec których dyskryminacja jest zakazana na mocy art. 21 Karty praw podstawowych Unii Europejskiej. Ponadto w ocenie obu instytucji wykorzystywanie sztucznej inteligencji do odgadywania emocji osoby fizycznej jest wysoce niepożądane i powinno być zabronione, z wyjątkiem bardzo szczególnych przypadków, takich jak niektóre cele zdrowotne, w których rozpoznawanie emocji pacjenta jest ważne, oraz że wykorzystywanie sztucznej inteligencji do wszelkiego rodzaju oceny punktowej zachowań społecznych powinno być zabronione.

EROD i EIOD z zadowoleniem przyjmują również fakt, że wniosek dotyczący rozporządzenia wyznacza EIOD jako organ właściwy i organ nadzoru rynku w zakresie nadzoru nad instytucjami, agencjami i organami Unii. Należy jednak doprecyzować rolę i zadania EIOD, zwłaszcza jeśli chodzi o jego rolę organu nadzoru rynku.

W przyjętej opinii przypominano, że organy ochrony danych osobowych już teraz egzekwują RODO i dyrektywę 2016/680 w sprawach systemów sztucznej inteligencji obejmujących dane osobowe, aby zagwarantować ochronę praw podstawowych, a w szczególności prawo do ochrony danych. W związku z tym wyznaczenie organów ochrony danych osobowych jako krajowych organów nadzorczych zapewniłoby bardziej zharmonizowane podejście regulacyjne i przyczyniłoby się do spójnej interpretacji przepisów dotyczących przetwarzania danych w całej UE. W celu zapewnienia sprawnego stosowania tego nowego rozporządzenia, organy ochrony danych osobowych powinny zostać wyznaczone jako krajowe organy nadzorcze zgodnie z art. 59 wniosku dotyczącego rozporządzenia.

Co więcej EROD i EIOD kwestionują przyznanie Komisji Europejskiej dominującej roli w Europejskiej Radzie ds. Sztucznej Inteligencji (EAIB), ponieważ byłoby to sprzeczne z potrzebą utworzenia europejskiego organu ds. sztucznej inteligencji, który byłby niezależny od jakichkolwiek wpływów politycznych. W celu zapewnienia niezależności, wniosek dotyczący rozporządzenia powinien dać EAIB większą autonomię i zapewnić jej możliwość działania z własnej inicjatywy.

Kiedy przyjęto opinię?

Opinię przyjęto 18 czerwca 2021 r. podczas 50. posiedzenia plenarnego EROD.

Zob. Oświadczenie prasowe EROD i EIOD 50. posiedzenia plenarnego (tłumaczenie nieoficjalne)

A.J.
Zespół e-prawnik.pl