Od 2 lutego 2025 r. weszły w życie przepisy Rozporządzenia Parlamentu Europejskiego i Rady (UE) w sprawie ustanowienia zharmonizowanych przepisów dotyczących sztucznej inteligencji (tzw. AI Act). Nowe regulacje dotyczą zakazanych praktyk AI oraz obowiązków przedsiębiorców, którzy wykorzystują sztuczną inteligencję w swoich działalnościach.
Jakie praktyczne zmiany musisz uwzględnić, by działać zgodnie z prawem i uniknąć wysokich kar? Przeczytaj poniższy artykuł, aby poznać nowe obowiązki w pigułce.
Zakazane praktyki AI – czego nie wolno robić?
Przepisy unijne jasno określają działania zabronione w kontekście sztucznej inteligencji. Ich naruszenie może skutkować dotkliwymi karami finansowymi. Do zakazanych praktyk należą:
- Manipulacja decyzjami użytkowników – Zakazano stosowania technik podprogowych, manipulacyjnych lub wprowadzających w błąd, które mogą wpływać na decyzje konsumentów w sposób szkodliwy.
- Wykorzystanie słabości grup wrażliwych – Nie wolno wykorzystywać AI w celu manipulowania zachowaniami osób, które są członkami grup wrażliwych. Przynależność do grup wrażliwych może wynikać między innymi z wieku, niepełnosprawności lub statusu społeczno-ekonomicznego, jeśli skutkiem może być szkoda.
- Ocena zachowań społecznych – Systemy AI nie mogą być używane do oceny zachowań w sposób prowadzący do dyskryminacji lub nieuzasadnionych decyzji. Jest to szczególnie istotne, gdy system AI jest wykorzystywany w odniesieniu do grupy osób reprezentujący szeroki wachlarz klas społecznych czy też o różnym pochodzeniu. Należy zapewnić, że każda osoba będzie traktowana równo.
- Profilowanie ryzyka przestępczego – Zabrania się przewidywania ryzyka popełnienia przestępstwa na podstawie cech osobowości lub profilowania, chyba że oparte jest to na obiektywnych faktach. Pamiętaj – tu nie ma miejsca na stereotypy ani uprzedzenia!
- Zbieranie danych biometrycznych – Nie wolno gromadzić danych twarzy z internetu lub monitoringu bez zgody, by tworzyć bazy do rozpoznawania osób. Ochrona danych osobowych jest kluczowa – nawet w dobie AI.
- Identyfikacja w miejscach publicznych – Zakazuje się zdalnej identyfikacji osób w przestrzeni publicznej, chyba że jest to absolutnie konieczne przez pryzmat bezpieczeństwa.
AI Act a ryzyko związane ze sztuczną inteligencją. Na co powinno się zwracać szczególną uwagę?
Kogo dotyczą te zakazy?
Przepisy AI Act obejmują szeroki krąg podmiotów, w tym między innymi:
– dostawców, importerów i dystrybutorów systemów AI;
– podmioty wykorzystujące systemy AI w działalności gospodarczej.
Jeżeli w swojej działalności korzystasz z systemów AI – niezwłocznie ustal, kim jesteś i jakie obowiązki Cię dotyczą. W razie wątpliwości skonsultuj się z prawnikiem.
Wyjątek stanowią sytuacje, w których AI jest używane w działalności osobistej i niezawodowej. Co za tym idzie, jest to stosowanie wyłącznie na użytek własny.
Warto podkreślić, że przedsiębiorcy, którzy integrują systemy AI z produktami lub usługami, w celu usprawnienia swoich biznesów, powinni niezwłocznie sprawdzić zgodność z nowymi regulacjami.
Ryzyko finansowe, czyli wysokie kary za naruszenia
Za naruszenie praktyk z listy zakazanych grożą wysokie kary pieniężne:
- do 35 milionów euro lub
- do 7% rocznego światowego obrotu przedsiębiorstwa – w zależności od tego, która z kwot jest wyższa.
Tak surowe sankcje mają na celu zapewnienie odpowiedzialnego stosowania AI i ochrony praw konsumentów na rynku unijnym.
Nowe regulacje w polskiej branży medycznej
Regulacje dotyczące wykorzystywania sztucznej inteligencji są wprowadzane także w Polsce, w samorządach zawodowych, co podkreśla chociażby nowy Kodeks Etyki Lekarskiej (KEL). Zgodnie z art. 12 KEL:
Lekarz może w postępowaniu diagnostycznym, leczniczym lub zapobiegawczym korzystać z algorytmów sztucznej inteligencji przy spełnieniu następujących warunków:
1) poinformowania pacjenta, że przy stawianiu diagnozy lub w procesie terapeutycznym będzie wykorzystana sztuczna inteligencja;
2) uzyskania świadomej zgody pacjenta na zastosowanie sztucznej inteligencji w procesie diagnostycznym lub terapeutycznym;
3) zastosowania algorytmów sztucznej inteligencji, które są dopuszczone do użytku medycznego i posiadają odpowiednie certyfikaty;
4) ostateczną decyzję diagnostyczną i terapeutyczną zawsze podejmuje lekarz.
Jak widać, również samorządy zawodowe zaczynają dostrzegać konieczność regulowania wykorzystywania systemów AI w swoich branżach. W kontekście branży medycznej jest to szczególnie istotne, ponieważ każda decyzja podejmowana przez lekarza w procesie leczenia wywiera bezpośredni wpływ na życie i zdrowie pacjentów. Ostateczną decyzję podejmuje lekarz, a sztuczna inteligencja może jedynie wspomagać w podejmowaniu na przykład wyboru metody leczenia. Pacjent ma prawo wiedzieć, kto i w jakim zakresie zapoznaje się z jego danymi, a także jak są one przetwarzane.
GPSR w praktyce w 2025 roku – o czym musisz wiedzieć?
Jakie kroki powinien podjąć przedsiębiorca w 2025 roku?
By uniknąć ryzyka związanego z AI Act, przedsiębiorcy powinni w pierwszej kolejności:
- Przeprowadzić audyt wykorzystywanych systemów AI – sprawdź, czy Twoje systemy spełniają nowe wymogi prawne. Określ stopień ryzyka i przeanalizuj, do jakich danych Twój system AI ma dostęp.
- Opracować politykę wewnętrzną firmy – określ jasno zasady korzystania z AI w firmie, w tym jaka jest odpowiedzialność za działania systemów.
- Zwrócić uwagę na szkolenie personelu – Pracownicy powinni znać nowe regulacje i rozumieć, jak unikać ryzykownych praktyk. Warto przeszkolić kadry z bezpiecznego wspomagania się sztuczną inteligencją z zastrzeżeniem, że nie można ślepo na niej polegać.
- Monitorować potencjalne ryzyko – Wprowadź procedury monitorowania i raportowania potencjalnych naruszeń. Staraj się być jeden krok przed dniem dzisiejszym. Nie daj się zaskoczyć.
Co możemy dla Ciebie zrobić?
- Przeprowadzimy audyt Twoich systemów AI, określając stopień ryzyka.
- Opracujemy wewnętrzne procedury zgodności.
- Doradzimy w zakresie zgodności z AI Act oraz innymi unijnymi aktami prawnymi.
- Będziemy Cię reprezentować w przypadku jakichkolwiek postępowań administracyjnych.
- Sporządzimy opinię prawną na potrzebny Ci temat.
Nie czekaj, aż nowe przepisy wejdą w życie! Skontaktuj się z nami już dziś i zapewnij swojej firmie pełną zgodność z AI Act, by bezpiecznie korzystać z możliwości oferowanych przez sztuczną inteligencję.
Czym jest cold calling i cold mailing? Dowiedz się już teraz!
Skontaktuj się z nami, aby uzyskać fachową pomoc i wsparcie z zakresu sztucznej inteligencji i regulujących ją aktów prawnych. Sprawdź, jak możemy pomóc Twojej firmie dostosować się do nowych przepisów już dziś.
