AI (sztuczna inteligencja) z zakazem manipulacji ludźmi

W piątek negocjatorzy Parlamentu i Rady osiągnęli wstępne porozumienie w sprawie aktu o sztucznej inteligencji. Rozporządzenie to ma na celu zapewnienie ochrony praw podstawowych, demokracji, praworządności i zrównoważenia środowiskowego przed sztuczną inteligencją wysokiego ryzyka, przy jednoczesnym pobudzeniu innowacji i uczynieniu z Europy lidera w tej dziedzinie. Przepisy ustanawiają obowiązki w odniesieniu do sztucznej inteligencji w oparciu o jej potencjalne ryzyko i poziom oddziaływania.

Po zawarciu porozumienia współsprawozdawca Brando Benifei (S&D, Włochy) powiedział: "To było długie i intensywne, ale wysiłek się opłacił. Dzięki odporności Parlamentu Europejskiego pierwsze na świecie przepisy horyzontalne dotyczące sztucznej inteligencji dotrzymają europejskiej obietnicy – gwarantując, że prawa i wolności znajdą się w centrum rozwoju tej przełomowej technologii. Kluczowe znaczenie będzie miało prawidłowe wdrożenie – Parlament będzie nadal bacznie obserwował, aby zapewnić wsparcie dla nowych pomysłów biznesowych z piaskownicami i skutecznymi przepisami dla najpotężniejszych modeli".

Zakazane aplikacje

Uznając potencjalne zagrożenie dla praw obywateli i demokracji, jakie stwarzają niektóre zastosowania sztucznej inteligencji, współprawodawcy postanowili zakazać:

• systemy kategoryzacji biometrycznej, które wykorzystują cechy wrażliwe (np. przekonania polityczne, religijne, filozoficzne, orientację seksualną, rasę);
• nieukierunkowane pobieranie obrazów twarzy z internetu lub nagrań z kamer przemysłowych w celu utworzenia baz danych rozpoznawania twarzy;
• rozpoznawanie emocji w miejscu pracy i instytucjach edukacyjnych;
• punktacja społeczna oparta na zachowaniach społecznych lub cechach osobistych;
• systemy sztucznej inteligencji, które manipulują ludzkim zachowaniem w celu obejścia jego wolnej woli;
• Sztuczna inteligencja wykorzystywana do wykorzystywania podatności ludzi na zagrożenia (ze względu na ich wiek, niepełnosprawność, sytuację społeczną lub ekonomiczną).

Zwolnienia z obowiązku egzekwowania prawa

Negocjatorzy uzgodnili szereg zabezpieczeń i wąskich wyjątków dotyczących stosowania systemów identyfikacji biometrycznej w przestrzeni publicznej do celów egzekwowania prawa, pod warunkiem uzyskania uprzedniej zgody sądu i w odniesieniu do ściśle określonych wykazów przestępstw. "Post-remote" RBI byłby stosowany wyłącznie w ukierunkowanych poszukiwaniach osoby skazanej lub podejrzanej o popełnienie poważnego przestępstwa.

RBI "w czasie rzeczywistym" spełniałby ścisłe warunki, a jego wykorzystanie byłoby ograniczone w czasie i miejscu, do celów:

• ukierunkowane poszukiwania ofiar (uprowadzenia, handel ludźmi, wykorzystywanie seksualne),
• zapobieżenia szczególnemu i obecnemu zagrożeniu terrorystycznemu, lub
• miejsce pobytu lub identyfikacja osoby podejrzanej o popełnienie jednego z konkretnych przestępstw wymienionych w rozporządzeniu (np. terroryzmu, handlu ludźmi, wykorzystywania seksualnego, zabójstwa, porwania, gwałtu, rozboju z bronią w ręku, udziału w organizacji przestępczej, przestępstwa przeciwko środowisku).

Z kolei współsprawozdwca projektowanego prawa  Dragos Tudorache (Renew, Rumunia) powiedział: "UE jest pierwszą na świecie, która wprowadziła solidne przepisy dotyczące sztucznej inteligencji, kierując jej rozwój i ewolucję w kierunku ukierunkowanym na człowieka. W akcie w sprawie sztucznej inteligencji ustanowiono przepisy dotyczące dużych, potężnych modeli sztucznej inteligencji, gwarantując, że nie stanowią one ryzyka systemowego dla Unii, oraz zapewniając naszym obywatelom i naszym demokracjom silne zabezpieczenia przed wszelkimi nadużyciami technologii przez organy publiczne. Chroni nasze MŚP, wzmacnia naszą zdolność do wprowadzania innowacji i odgrywania wiodącej roli w dziedzinie sztucznej inteligencji oraz chroni wrażliwe sektory naszej gospodarki. Unia Europejska wniosła imponujący wkład w rozwój świata; Akt w sprawie sztucznej inteligencji jest kolejnym, który będzie miał znaczący wpływ na naszą cyfrową przyszłość".

Obowiązki dotyczące systemów wysokiego ryzyka

W odniesieniu do systemów sztucznej inteligencji sklasyfikowanych jako systemy wysokiego ryzyka (ze względu na ich znaczną potencjalną szkodliwość dla zdrowia, bezpieczeństwa, praw podstawowych, środowiska, demokracji i praworządności) uzgodniono jasne obowiązki. Posłom udało się wprowadzić m.in. obowiązkową ocenę wpływu na prawa podstawowe, która ma zastosowanie również do sektora ubezpieczeń i bankowości. Systemy sztucznej inteligencji wykorzystywane do wpływania na wynik wyborów i zachowania wyborców są również klasyfikowane jako systemy wysokiego ryzyka. Obywatele będą mieli prawo do składania skarg na systemy sztucznej inteligencji i otrzymywania wyjaśnień dotyczących decyzji opartych na systemach sztucznej inteligencji wysokiego ryzyka, które mają wpływ na ich prawa.

Bariery ochronne dla ogólnych systemów sztucznej inteligencji

Aby uwzględnić szeroki zakres zadań, jakie mogą wykonywać systemy sztucznej inteligencji, oraz szybkie rozszerzanie jej możliwości, uzgodniono, że systemy sztucznej inteligencji ogólnego przeznaczenia (GPAI) i modele GPAI, na których się opierają, będą musiały spełniać wymogi przejrzystości, zgodnie z początkowym wnioskiem Parlamentu. Obejmują one sporządzanie dokumentacji technicznej, przestrzeganie unijnego prawa autorskiego oraz rozpowszechnianie szczegółowych streszczeń treści wykorzystywanych w szkoleniach.

 W przypadku modeli GPAI o dużym wpływie i ryzyku systemowym negocjatorom Parlamentu udało się zapewnić bardziej rygorystyczne zobowiązania. Jeżeli modele te spełniają określone kryteria, będą musiały przeprowadzać oceny modeli, oceniać i ograniczać ryzyko systemowe, przeprowadzać testy przeciwstawne, składać Komisji sprawozdania na temat poważnych incydentów, zapewniać cyberbezpieczeństwo i składać sprawozdania na temat swojej efektywności energetycznej. Posłowie nalegali również, aby do czasu opublikowania zharmonizowanych norm UE GPAI z ryzykiem systemowym mogły polegać na kodeksach postępowania w celu zapewnienia zgodności z rozporządzeniem.

Środki wspierające innowacje i MŚP

Posłowie chcieli zapewnić, że przedsiębiorstwa, zwłaszcza MŚP, będą mogły opracowywać rozwiązania w zakresie sztucznej inteligencji bez nadmiernej presji ze strony gigantów branżowych kontrolujących łańcuch wartości. W tym celu porozumienie promuje tzw. piaskownice regulacyjne i testy w warunkach rzeczywistych, ustanowione przez organy krajowe w celu opracowywania i szkolenia innowacyjnej sztucznej inteligencji przed wprowadzeniem jej na rynek.

Sankcje i wejście w życie

Nieprzestrzeganie przepisów może prowadzić do nałożenia grzywien w wysokości od 35 mln euro lub 7 proc. światowego obrotu do 7,5 mln euro lub 1,5 proc. obrotu, w zależności od naruszenia i wielkości przedsiębiorstwa.

Po negocjacjach na wspólnej konferencji prasowej spotkali się główni europosłowie Brando Benifei (S&D, Włochy) i Dragos Tudorache (Renew, Rumunia), sekretarz stanu ds. cyfryzacji i sztucznej inteligencji Carme Artigas oraz komisarz Thierry Breton. Oświadczenie pana posła Benifei jest dostępne tutaj, a oświadczenie pana Tudorache'a tutaj. Więcej fragmentów można znaleźć tutaj

Następne kroki

Uzgodniony tekst będzie musiał teraz zostać formalnie przyjęty zarówno przez Parlament, jak i Radę, aby stał się prawem UE. Komisje Rynku Wewnętrznego i Wolności Obywatelskich Parlamentu Europejskiego będą głosować nad umową na najbliższym posiedzeniu.