AI ACT – obowiązki dla systemów AI wysokiego ryzyka

Część przepisów AI Act obowiązuje już od dłuższego czasu. Jeśli Twój SaaS używa sztucznej inteligencji i jeszcze nie zaopiekowałeś się tym prawnie, istnieje spora szansa, że już teraz nie spełniasz wymogów. W tym artykule przejdziemy przez klasyfikację ryzyka, omówimy zakazy, które już działają, i pokażemy konkretną ścieżkę wdrożenia – krok po kroku.

Podsumowanie na start

1. AI Act to rozporządzenie, nie dyrektywa – obowiązuje bezpośrednio we wszystkich państwach UE bez czekania na polską ustawę, tak samo jak RODO.
2. Przepisy wchodzą kaskadowo – zakazy obowiązują od lutego 2025, kary i organy nadzorcze od sierpnia 2025, wymóg transparentnej komunikacji z użytkownikami od 2 sierpnia 2026; pełne wymogi dla systemów wysokiego ryzyka dopiero od grudnia 2027.
3. Systemy AI dzielą się na cztery poziomy ryzyka – od minimalnego (filtry spamu, autouzupełnianie) przez ograniczone (chatboty, generatory treści) i wysokie (rekrutacja, scoring, zarządzanie pracownikami) po niedopuszczalne, czyli zakazane całkowicie.
4. Klasyfikacja ryzyka nie jest stała – jeśli zmienisz przeznaczenie systemu po grudniu 2027, np. dodasz moduł oceny zdolności kredytowej, wchodzisz w nową kategorię i nowe obowiązki, nawet jeśli wcześniej byłeś w kategorii minimalnego ryzyka.
5. Dostawcy systemów wysokiego ryzyka wchodzą w ciągły proces compliance – dokumentacja techniczna, automatyczne logowanie zdarzeń, nadzór ludzki, rejestracja w unijnej bazie UE przed wejściem na rynek.
6. SaaS obsługujący sektor finansowy lub infrastrukturę krytyczną podlega jednocześnie AI Act, DORA i NIS2 – można to ogarnąć jednym zintegrowanym frameworkiem zamiast trzema osobnymi.
7. Kary za zakazane systemy sięgają 35 mln EUR lub 7% globalnego obrotu – to jedne z najsurowszych sankcji w europejskim prawie regulacyjnym, mechanizm jest już aktywny.

Co to jest AI Act i dlaczego dotyczy Cię już teraz?

AI Act – Rozporządzenie Parlamentu Europejskiego i Rady (UE) 2024/1689 – jest pierwszą na świecie kompleksową regulacją prawną poświęconą sztucznej inteligencji. To rozporządzenie, nie dyrektywa. Obowiązuje bezpośrednio we wszystkich państwach UE, bez czekania na polską ustawę implementującą. Identycznie jak RODO, które dziś zna już praktycznie każdy przedsiębiorca.

Regulacja opiera się na podejściu opartym na ryzyku: im wyższe potencjalne zagrożenie dla praw podstawowych osób fizycznych, tym surowsze wymogi dla dostawcy.

Kogo to dotyczy w praktyce? Każdego dostawcy oprogramowania, który:

• używa algorytmów uczenia maszynowego lub modeli językowych,
• ma wbudowany chatbota, generator treści lub moduł scoringowy,
• oferuje systemy rekomendacji albo analizy danych o użytkownikach,
• działa na rynku UE lub dostarcza produkt użytkownikom z UE.

Jeśli Twój SaaS wpisuje się w którąkolwiek z tych kategorii – AI Act Cię dotyczy, i to nie od 2027 roku.

Kiedy wchodzą poszczególne przepisy AI Act?

Za egzekwowanie odpowiadają krajowe organy nadzoru, koordynowane przez Europejski Urząd ds. Sztucznej Inteligencji – ten od 2 sierpnia 2025 ma pełne uprawnienia do prowadzenia dochodzeń i nakładania sankcji. W Polsce właściwy organ nadzorczy jest jeszcze w trakcie wyznaczania – nie oznacza to jednak, że przepisów nie ma.

Wdrożenie AI Act zajmuje od 12 do 18 miesięcy. Jeśli zaczynasz dziś, masz dokładnie tyle czasu, ile potrzebujesz, żeby zdążyć przed grudniowym deadlinem – pod warunkiem, że zaczniesz teraz, nie za pół roku.

Zakazane praktyki AI – co grozi najsurowszą karą już teraz?

Zanim przejdziesz do klasyfikacji, zrób szybki test. Odpowiedz uczciwie na trzy pytania:

1. Czy Twój system AI wpływa na decyzje użytkowników w sposób podprogowy – poza ich świadomością lub bez ich zgody?
2. Czy Twoja aplikacja celuje w osoby szczególnie podatne na manipulację – ze względu na wiek, niepełnosprawność lub sytuację ekonomiczną – i czy może im zaszkodzić?
3. Czy Twój system ocenia ludzi za ich zachowania i przyznaje im punkty (scoring behawioralny, social scoring)?

Jeśli odpowiedziałeś „nie” na wszystkie trzy – możesz przejść do klasyfikacji ryzyka.

Jeśli któreś pytanie wywołało wątpliwość – wróć do niego z prawnikiem, zanim pójdziesz dalej.

⚠️ Pułapka: Wiele firm zakłada, że scoring behawioralny dotyczy wyłącznie sektora finansowego. Tymczasem ocena „rzetelności” użytkowników aplikacji na podstawie historii ich aktywności – np. w platformach e-commerce czy marketplace – może wpaść w tę samą kategorię zakazaną.

Pełna lista zakazanych praktyk z art. 5 AI Act obejmuje osiem pozycji. Poza scoringiem i manipulacją podprogową zakaz dotyczy m.in. zdalnej identyfikacji biometrycznej w czasie rzeczywistym w przestrzeni publicznej (z wąskimi wyjątkami dla organów ścigania) oraz systemów oceniających wiarygodność społeczną obywateli na podstawie zachowania.

Klasyfikacja ryzyka – do której kategorii należy Twój system AI?

Cztery poziomy ryzyka

Minimalne ryzyko – brak dodatkowych wymogów poza obowiązkowymi szkoleniami AI dla pracowników. Przykłady: filtry spamu, autouzupełnianie, wewnętrzne narzędzia analityczne bez wpływu na decyzje o ludziach.

Ograniczone ryzyko – obowiązki informacyjne. Przykłady: chatboty, generatory treści, systemy rekomendacji. Wystarczy poinformować użytkownika, że rozmawia z AI, nie z człowiekiem. Wymóg transparentności wszedł w życie 2 sierpnia 2026 – jeśli tego jeszcze nie masz, masz zaległość.

Wysokie ryzyko – rozbudowany zestaw wymogów (szczegóły w następnej sekcji). Przykłady: system rekrutacyjny oceniający CV, moduł scoringowy zdolności kredytowej, narzędzie do oceny pracowników, systemy w edukacji.

Ryzyko niedopuszczalne – systemy zakazane, opisane wyżej.

Checklista: czy Twój system AI może być wysokiego ryzyka?

Twój system jest prawdopodobnie w kategorii wysokiego ryzyka, jeśli:

✓ jest elementem bezpieczeństwa produktu objętego unijnym prawodawstwem harmonizacyjnym (urządzenia medyczne, maszyny, zabawki),

✓ będzie używany w obszarach z załącznika III AI Act,

✓ podejmuje lub wspiera decyzje dotyczące osób fizycznych,

✓ przetwarza dane biometryczne lub dane osobowe na dużą skalę,

✓ może wpływać na zdrowie, bezpieczeństwo lub prawa podstawowe osób,

✓ będzie używany w sektorach krytycznych: edukacja, zatrudnienie, wymiar sprawiedliwości, ochrona zdrowia,

✓ może służyć do profilowania osób fizycznych,

✓ może mieć znaczący wpływ na sytuację społeczną lub ekonomiczną jednostek.

Jeśli większość z tych punktów dotyczy Twojego systemu – jesteś w kategorii wysokiego ryzyka.

Obszary automatycznie klasyfikowane jako wysokie ryzyko (załącznik III AI Act)

Osiem sektorów, w których zastosowanie systemu AI automatycznie oznacza wysokie ryzyko:

1. identyfikacja biometryczna i kategoryzacja biometryczna osób,
2. zarządzanie i obsługa infrastruktury krytycznej,
3. edukacja i szkolenie zawodowe,
4. zatrudnienie, zarządzanie pracownikami i dostęp do samozatrudnienia,
5. dostęp do podstawowych usług prywatnych i publicznych oraz świadczeń publicznych,
6. egzekwowanie prawa,
7. zarządzanie migracją, azylem i kontrolą graniczną,
8. wymiar sprawiedliwości i procesy demokratyczne.

System AI wymieniony w załączniku III może nie być uznany za wysokiego ryzyka, jeśli spełnia warunki wyłączenia z art. 6 ust. 3 – np. wykonuje wąsko określone zadanie proceduralne bez profilowania osób. Ocenę tego wyjątku warto skonsultować z prawnikiem, bo organ nadzorczy będzie ją weryfikował.

💡 Warto zapamiętać – dynamiczna reklasyfikacja: Klasyfikacja ryzyka nie jest przypisana do Twojego produktu raz na zawsze. Wyobraź sobie SaaS, który dziś analizuje dane wewnętrzne firmy. Za rok dodajesz moduł oceny zdolności kredytowej klientów. W tym momencie zmieniasz kategorię ryzyka i przejmujesz cały nowy zestaw obowiązków. Każda istotna zmiana celu systemu po grudniu 2027 roku wymaga ponownego przejścia przez ocenę ryzyka – zanim nowa funkcja trafi do produkcji.

Systemy AI wysokiego ryzyka – co musisz wdrożyć?

Poniżej lista kluczowych obowiązków z AI Act. Dla czytelności wybraliśmy te, od których każdy dostawca powinien zacząć:

• System zarządzania ryzykiem (art. 9) – identyfikacja i ocena ryzyk przez cały cykl życia systemu, z regularną aktualizacją,
• Zarządzanie danymi i jakością (art. 10) – dane treningowe muszą być reprezentatywne, wolne od istotnych błędów i stronniczości,
• Dokumentacja techniczna (art. 11) – obejmuje cel systemu, dane treningowe, metodologię walidacji i ograniczenia,
• Automatyczne rejestrowanie zdarzeń (art. 12) – logi umożliwiające odtworzenie procesu decyzyjnego AI,
• Transparentne informacje dla użytkowników (art. 13) – użytkownicy muszą rozumieć, z czym pracują i jakie są ograniczenia systemu,
• Nadzór człowieka (art. 14) – operator musi mieć możliwość nadpisania lub wyłączenia decyzji systemu w każdej chwili,
• Dokładność i cyberbezpieczeństwo (art. 15) – ciągłe monitorowanie jakości i odporności na ataki,
• System zarządzania jakością (art. 17) – procesy obejmujące cały łańcuch dostaw,
• Rejestracja w unijnej bazie danych (art. 49) – wymagana przed wejściem na rynek, nie po,
• Raportowanie poważnych incydentów (art. 73) – do krajowego organu nadzoru.

Pełna lista obowiązków dostawców systemów wysokiego ryzyka liczy 30 pozycji (art. 6–49, 73, 86 AI Act). Powyżej są te, od których zaczyna się praktycznie każde wdrożenie.

W naszej praktyce najczęstszy problem to brak dokumentacji technicznej od momentu startu i brak mechanizmu logowania zdarzeń w produkcji. Obie luki da się zamknąć, ale wymagają czasu i pracy inżynierskiej – dlatego lepiej budować je od początku niż retrofitować.

Obowiązki po stronie importerów, dystrybutorów i użytkowników

AI Act nakłada obowiązki na cały łańcuch dostaw – nie tylko na pierwotnego dostawcę.

Importerzy (art. 23) sprawdzają przed wprowadzeniem systemu do obrotu, czy dostawca przeprowadził ocenę zgodności, czy system ma oznakowanie CE i czy jest zarejestrowany w bazie UE.

Dystrybutorzy (art. 24) weryfikują oznakowanie CE i dokumentację. System niezgodny z wymogami nie może trafić na rynek – dystrybutor jest za to odpowiedzialny.

Użytkownicy (art. 26) stosują system zgodnie z instrukcją, monitorują jego działanie, prowadzą logi (jeśli mają nad nimi kontrolę) i przeprowadzają ocenę skutków dla ochrony danych, gdy wymaga tego RODO.

Jak wdrożyć AI Act w praktyce?

Sześć kroków wdrożenia:

1. Inwentaryzacja systemów AI – wszystkie systemy AI w firmie, łącznie z narzędziami podwykonawców i zewnętrznych dostawców SaaS, z których korzystasz,
2. Klasyfikacja ryzyka i test zakazanych praktyk – sprawdzenie każdego systemu pod kątem art. 5 (zakazy) i art. 6 (wysokie ryzyko) AI Act,
3. Dokumentacja, procedury i logi – opracowanie lub uzupełnienie dokumentacji technicznej, wdrożenie automatycznego logowania zdarzeń i procedur zgłaszania incydentów,
4. Szkolenie pracowników – obowiązek zapewnienia kompetencji AI wśród pracowników obowiązuje od 2 lutego 2025, więc ten krok jest już wymagany dzisiaj,
5. Aktualizacja dokumentów prawnych produktu – regulaminy, polityka prywatności, umowy z klientami muszą uwzględniać obowiązki AI Act,
6. Audyt zgodności – porównanie stanu obecnego z wymogami AI Act (gap analysis) i zamknięcie zidentyfikowanych luk przed wejściem na rynek lub przed deadlinem.

💡 Pro tip: Certyfikowany system AI to konkretny argument sprzedażowy w rozmowach z korporacjami i podmiotami regulowanymi, które coraz częściej wymagają transparentności od swoich dostawców. Compliance przestaje być kosztem operacyjnym, kiedy zaczyna pomagać wygrywać przetargi i budować zaufanie partnerów B2B.

AI Act a DORA i NIS2 – co jeśli Twój SaaS obsługuje sektor regulowany?

DORA – dla SaaS w sektorze finansowym

Rozporządzenie DORA (Digital Operational Resilience Act, nr 2022/2554) obowiązuje od 17 stycznia 2025. Dotyczy każdego dostawcy ICT świadczącego usługi dla banków, ubezpieczycieli, firm inwestycyjnych, instytucji płatniczych i dostawców kryptoaktywów.

Co DORA wymaga od dostawcy oprogramowania?

• zarządzanie ryzykiem ICT i dokumentacja techniczna systemów,
• raportowanie poważnych incydentów podmiotom finansowym w ściśle określonych terminach,
• uczestnictwo w testach odporności operacyjnej (testy penetracyjne, symulacje cyberataków),
• umowy zawierające SLA, procedury incydentowe i prawo klienta do audytu.

Jeśli Twój system AI przetwarza dane finansowe lub wspiera decyzje kredytowe – masz na jednym produkcie obowiązki z AI Act i DORA jednocześnie. Dwa rozporządzenia, dwa zestawy wymagań.

NIS2 – dla SaaS w energetyce, transporcie i zdrowiu

Dyrektywa NIS2 nakłada obowiązki cyberbezpieczeństwa na systemy AI używane przez podmioty kluczowe w sektorach: energetyka, transport, ochrona zdrowia, infrastruktura cyfrowa, administracja publiczna. Jako dostawca ICT dla podmiotów kluczowych podlegasz wymogom NIS2 niezależnie od własnej wielkości – co jest często zaskoczeniem dla mniejszych firm SaaS.

Jeden framework zamiast trzech

Zarządzanie ryzykiem, dokumentacja techniczna i logi zdarzeń pojawiają się jako wymóg w AI Act, DORA i NIS2 jednocześnie. Zamiast budować trzy osobne systemy compliance, warto od razu zmapować punkty wspólne i postawić jeden zintegrowany framework. To oszczędza czas i usuwa ryzyko sytuacji, w której spełniasz jedną regulację i nieświadomie naruszasz drugą.

⚠️ Pułapka: Firmy często wdrażają compliance dla AI Act i DORA osobno, nie zdając sobie sprawy z pokrywania się wymogów. Efekt: podwójna dokumentacja techniczna i sprzeczne procedury raportowania incydentów do różnych organów. Scalenie frameworku od razu kosztuje mniej niż późniejsze przepisywanie.

Najważniejsze, co powinieneś zapamiętać

Przepisów jest dużo, daty się mnożą, a rynek dopiero uczy się egzekwowania. Oto lista rzeczy, które naprawdę możesz zabrać z tego artykułu:

• AI Act obowiązuje już teraz – zakazy od ponad roku, kary od roku, transparentność od 24 dni.
• Jeśli Twój SaaS ma chatbota, generator treści lub system rekomendacji – musisz informować użytkowników, że rozmawiają z AI. Ten wymóg obowiązuje od 2 sierpnia 2026.
• Nie zakładaj od razu, że jesteś w kategorii wysokiego ryzyka – najpierw odpowiedz uczciwie na checklistę z 8 pytaniami.
• Zrób test zakazanych praktyk (3 pytania z art. 5) zanim cokolwiek wdrożysz. To najdroższa kategoria naruszeń.
• Jeśli zmieniasz przeznaczenie systemu po grudniu 2027 – wracasz do punktu zero z oceną ryzyka.
• Wdrożenie zajmuje 12-18 miesięcy.
• Certyfikacja pod AI Act to nie tylko obowiązek – to argument sprzedażowy przy sprzedaży B2B do podmiotów regulowanych.
• SaaS dla sektora finansowego lub infrastruktury krytycznej: AI Act + DORA + NIS2 jednocześnie, jeden framework.

FAQ – najczęściej zadawane pytania

Czy AI Act dotyczy małych firm i startupów?

Tak. AI Act nie przewiduje wyłączeń opartych na liczbie pracowników ani przychodach – to zasadnicza różnica w porównaniu z np. NIS2. Każdy dostawca systemu AI działającego na rynku UE jest objęty przepisami. Proporcjonalność może wpłynąć na sposób egzekwowania przez organ nadzorczy, ale nie zwalnia ze spełnienia wymogów.

Co AI Act rozumie przez „system AI”?

AI Act definiuje system AI jako system maszynowy, który na podstawie danych wejściowych generuje wyniki takie jak prognozy, rekomendacje, decyzje lub treści, wpływające na środowisko rzeczywiste lub wirtualne. W praktyce obejmuje to modele językowe, systemy rekomendacji, scoring, klasyfikatory i generatory treści. Zwykłe oprogramowanie bez elementu uczenia maszynowego lub statystycznego wnioskowania co do zasady nie jest systemem AI w rozumieniu rozporządzenia.

Jak długo trwa wdrożenie AI Act?

Od 12 do 18 miesięcy w zależności od złożoności systemu, dostępności dokumentacji technicznej i gotowości umów z podwykonawcami. Data pełnego wejścia obowiązków dla systemów wysokiego ryzyka to 2 grudnia 2027.

Czy RODO wystarczy do compliance z AI Act?

Nie. RODO chroni dane osobowe. AI Act reguluje systemy sztucznej inteligencji jako takie – niezależnie od tego, czy przetwarzają dane osobowe. Większość obowiązków AI Act (dokumentacja techniczna, nadzór ludzki, rejestracja w bazie UE) nie ma odpowiednika w RODO. Compliance z jednym rozporządzeniem nie oznacza compliance z drugim.

Gdzie zarejestrować system AI wysokiego ryzyka?

W unijnej bazie danych systemów AI zarządzanej przez Komisję Europejską. Rejestracja jest wymagana przed wprowadzeniem systemu na rynek (art. 49 AI Act) – nie po uruchomieniu. Szczegółowe zasady i formularz rejestracyjny dostępne są na stronie Europejskiego Urzędu ds. Sztucznej Inteligencji (EU AI Office).

Zdjęcie dodane przez Google DeepMind

Autor tekstu

Arkadiusz Szczudło

Jestem adwokatem i CEO w kancelarii Creativa Legal, mentorem i twórcą internetowym. Specjalizuję się w bezproblemowej obsłudze prawnej klientów z sektora technologicznego m.in. startupy, SaaS, spółki technologiczne, agencje marketingowe, czy e-commerce B2C/B2B. Jako prawnik, jak i przedsiębiorca, koncentruję się na wyznaczonym celu, starając się przewidzieć potencjalne zagrożenia w jego osiągnięciu. To z kolei sprawia, że trudno jest mnie zaskoczyć – a co za tym idzie – moich klientów.

Poznaj autora