AI w firmie: RODO, AI Act i bezpieczeństwo

01Shadow AI: zespół już korzysta z AI

Shadow AI to korzystanie z narzędzi AI poza wiedzą i kontrolą firmy - najczęściej z czatu na prywatnym koncie. Nie wynika ze złej woli. Pracownik ma do napisania ofertę, streszczenie umowy albo formułę w arkuszu, a czat AI robi to w minutę.

Sam zakaz zwykle nie wystarcza - pracownicy korzystają dalej, tylko mniej widocznie. Lepiej działa narzędzie równie wygodne, ale osadzone w środowisku firmy, oraz kilka jasnych zasad: co wolno wklejać, gdzie i kto odpowiada za wynik.

02Dane za oceanem

RODO pozwala przekazywać dane osobowe poza EOG, ale nie automatycznie: potrzebna jest podstawa prawna samego przetwarzania i spełnienie warunków transferu z rozdziału V RODO. Do organizacji w USA, które przystąpiły do EU-US Data Privacy Framework (DPF), dane można przekazywać od 2023 r. Ta podstawa jest jednak krucha.

W 2026 r. Sąd Najwyższy USA uznał, że prezydent może odwoływać członków Federalnej Komisji Handlu (FTC) bez podania przyczyny, a Europejska Rada Ochrony Danych poprosiła Komisję o ocenę skutków tego wyroku dla DPF. Na dziś ramy obowiązują.

Legalny transfer to jeszcze nie legalne przetwarzanie

DPF dotyczy tylko transferu. Sam cel - np. analiza dokumentacji medycznej przez model AI - wymaga własnej podstawy prawnej. Bez niej takiego przetwarzania nie wolno prowadzić, nawet na serwerze w UE. AI Act nie zakazuje wysyłania danych poza EOG, ale zakazuje określonych praktyk.

Czyje prawo, a nie tylko gdzie stoi serwer

Amerykański CLOUD Act może zobowiązać dostawcę podlegającego prawu USA do ujawnienia danych, nawet tych przechowywanych w EOG. Dlatego liczy się nie tylko to, gdzie są dane, ale też czyjemu prawu podlega dostawca.

1. Kto jest dostawcą? Spółka z EOG czy spoza EOG - i kto jest jej właścicielem.
2. Gdzie dane są przechowywane, a gdzie przetwarzane? To mogą być dwa różne miejsca, a po drodze mogą być podwykonawcy.
3. Na jakiej podstawie dane wychodzą poza EOG? Decyzja o odpowiednim stopniu ochrony, standardowe klauzule umowne - czy żadna.
4. W jakim celu i na jakiej podstawie dane są w ogóle przetwarzane? Legalny transfer nie zastępuje podstawy prawnej przetwarzania.

03Pseudonimizacja to nie anonimizacja

Usunięcie imienia i nazwiska nie czyni danych anonimowymi. Jeśli da się ustalić, o kogo chodzi - z klucza zamiany albo z kontekstu - to wciąż dane osobowe i nadal obowiązuje RODO.

Dlaczego przy AI to działa inaczej

• Model potrzebuje kontekstu. Im staranniej usunięte szczegóły, tym słabsza odpowiedź - dlatego w praktyce dokumenty trafiają do modelu niemal w całości.
• Model czyta wszystko, co dostanie. Także to, czego człowiek nie zauważy: stopki, dane w tabelach i komentarze.
• Klucz zostaje w firmie. TSUE potwierdził we wrześniu 2025 r. (C-413/23 P), że dla firmy, która ma klucz zamiany, dane pseudonimizowane pozostają danymi osobowymi. Odbiorca bez klucza może je traktować inaczej tylko wtedy, gdy realnie nie jest w stanie nikogo zidentyfikować.

Dlatego przy AI ważniejsze od maskowania jest to, kto przetwarza dane, gdzie i na jakiej umowie - oraz to, żeby do modelu trafiało tylko to, czego wymaga zadanie. Pseudonimizacja jest dobrym dodatkowym zabezpieczeniem, ale nie zastępuje umowy powierzenia.

04Model nie pamięta. Pamięta aplikacja

Model językowy jest bezstanowy. Jego wagi - miliardy liczb, w których zapisana jest wiedza z treningu - podczas rozmowy się nie zmieniają, a każde pytanie jest dla modelu nową kartką. Skąd więc wie, że rozmówczyni ma na imię Ania?

Przy każdej turze aplikacja wysyła modelowi całą dotychczasową rozmowę. Tak samo działa pamięć długoterminowa i wyszukiwanie w dokumentach firmy (RAG): aplikacja wybiera notatki i fragmenty dokumentów i dokleja je do pytania. Pamięć jest więc tam, gdzie aplikacja przechowuje historię, notatki i indeks dokumentów.

Skąd więc obawa o trenowanie?

Rozmowa nie zmienia modelu, który właśnie odpowiada. Zapytania mogą jednak zostać zapisane w logach dostawcy i - jeśli pozwala na to regulamin albo umowa - trafić do zbioru, na którym trenowana jest kolejna wersja modelu. A model potrafi zapamiętać fragmenty danych treningowych: Europejska Rada Ochrony Danych w opinii 28/2024 wskazała, że model trenowany na danych osobowych nie zawsze może być uznany za anonimowy.

Właściwe pytania brzmią więc: gdzie aplikacja przechowuje historię i pamięć, jak długo dostawca modelu przechowuje zapytania i czy wolno mu ich używać do trenowania - zapisane w umowie, nie tylko w polityce prywatności.

05On-premise, zerowa retencja i reszta

Ten sam model można uruchomić na kilka sposobów - i to od sposobu, a nie od nazwy modelu, zależy, gdzie trafiają dane i kto ustala zasady. Zerowa retencja (ZDR, zero data retention) oznacza, że dostawca nie przechowuje treści zapytania po udzieleniu odpowiedzi, więc nie może jej później wykorzystać.

06Jedna decyzja, 19 dni bez modelu

Dostęp do modelu przez API jego autora zależy nie tylko od umowy, ale też od prawa, któremu autor podlega. W czerwcu 2026 r. jedna decyzja władz USA wystarczyła, by dwa nowe modele AI zniknęły z usług dla klientów na całym świecie - bez winy klientów i bez ich wpływu na tę decyzję.

To nie jest zarzut wobec konkretnej firmy, tylko cecha modelu dostawy. Suwerenność AI to nie adres serwera, tylko kontrola nad modelem, danymi i infrastrukturą. Model open-weight nie znosi obowiązujących przepisów, a znaczenie ma też jego licencja - ale odpowiednio wdrożony wyraźnie ogranicza ryzyko jednostronnego odcięcia dostępu.

07Bezpieczeństwo AI: nowe sposoby ataku

Model AI czyta wszystko, co dostanie - także tekst przygotowany specjalnie dla niego. To otwiera nowe sposoby ataku, opisane m.in. w zestawieniu OWASP Top 10 dla aplikacji LLM.

Skoro modelu nie da się w pełni zabezpieczyć przed oszustwem, zabezpiecza się to, co agent może zrobić: jakie ma uprawnienia, dokąd może się połączyć i które operacje wymagają zgody człowieka.

08Do czego AI używać nie wolno

AI Act nie zakazuje narzędzi - zakazuje konkretnych zastosowań. Od 2 lutego 2025 r. w UE nie wolno stosować systemów AI do:

• Manipulacja techniki podprogowe albo wykorzystywanie wieku, niepełnosprawności czy trudnej sytuacji, by wpłynąć na czyjeś decyzje i wyrządzić mu poważną szkodę
• Scoring społeczny ocenianie ludzi na podstawie zachowań społecznych, prowadzące do gorszego traktowania w niezwiązanych sytuacjach
• Rozpoznawanie emocji w pracy i w szkole poza względami medycznymi i bezpieczeństwa
• Kategoryzacja biometryczna wnioskowanie z danych biometrycznych o rasie, poglądach politycznych, przynależności związkowej, przekonaniach religijnych, życiu seksualnym czy orientacji
• Bazy wizerunków twarzy tworzone przez nieukierunkowane pobieranie zdjęć z internetu lub monitoringu
• Przewidywanie przestępstw wyłącznie na podstawie profilowania albo cech osobowości
• Zdalna identyfikacja biometryczna w czasie rzeczywistym w przestrzeni publicznej, do ścigania przestępstw - z wąskimi wyjątkami
• Materiały przedstawiające wykorzystywanie dzieci i intymne wizerunki bez zgody systemy do ich generowania - zakaz dodany w 2026 r., stosowany od 2 grudnia 2026 r.

W codziennej pracy biurowej - przy umowach, ofertach czy arkuszach - te zakazy co do zasady nie mają zastosowania. Uwaga jednak na pozornie niewinne pomysły: analiza emocji pracowników na podstawie twarzy czy głosu z nagrań spotkań to już praktyka zakazana.

09Gdzie decyduje człowiek

Human in the loop to zasada, że decyzję, która istotnie dotyczy człowieka, podejmuje albo zatwierdza człowiek - a AI ją przygotowuje. Opiera się m.in. na dwóch przepisach:

• RODO, art. 22: każdy ma prawo nie podlegać decyzji opartej wyłącznie na zautomatyzowanym przetwarzaniu, jeśli wywołuje ona wobec niego skutki prawne lub w podobny sposób istotnie na niego wpływa - i prawo do interwencji człowieka.
• AI Act, art. 14 i 26: systemy wysokiego ryzyka muszą umożliwiać skuteczny nadzór człowieka, a firma, która ich używa, powierza ten nadzór osobom o odpowiednich kompetencjach.

1. zakazane

   AI nie może tego robić wcale

   Praktyki z poprzedniego rozdziału - zgoda człowieka niczego tu nie zmienia.

2. wysokie ryzyko · od 2 grudnia 2027

   AI może pomagać - decyduje człowiek

   System musi umożliwiać skuteczny nadzór człowieka, a firma, która go używa, powierza ten nadzór osobom o odpowiednich kompetencjach i uprawnieniach.

   • rekrutacja i selekcja kandydatów
   • awans, zwolnienie, ocena i monitorowanie pracy
   • zdolność kredytowa osób fizycznych
   • wycena ubezpieczeń na życie i zdrowotnych
   • dostęp do edukacji i ocenianie
   • dostęp do świadczeń i usług podstawowych

3. codzienna praca · dobra praktyka

   AI przygotowuje - człowiek sprawdza i wysyła

   Szkic umowy, streszczenie, analiza arkusza, odpowiedź na maila. Przepisy nie wymagają tu nadzoru, ale za wynik odpowiada osoba, która go wysyła.

10AI Act w kalendarzu

AI Act wchodzi w życie etapami. Terminy uwzględniają zmiany z pakietu cyfrowego Omnibus, opublikowanego w Dzienniku Urzędowym UE 24 lipca 2026 r.

1. 1 sierpnia 2024

   AI Act wchodzi w życie

   Rozporządzenie (UE) 2024/1689.

   obowiązuje

2. 2 lutego 2025

   Zakazane praktyki

   Zaczynają obowiązywać zakazy z art. 5.

   obowiązuje

3. 2 sierpnia 2025

   Modele AI ogólnego przeznaczenia

   Obowiązki dostawców modeli ogólnego przeznaczenia (GPAI) i system nadzoru.

   obowiązuje

4. 2 sierpnia 2026

   Przejrzystość (art. 50)

   Człowiek ma wiedzieć, że rozmawia z AI; deepfake trzeba oznaczyć.

   obowiązuje
5. dziś · 22 października 2026

6. 2 grudnia 2026

   Oznaczanie treści AI i nowy zakaz

   Koniec okresu przejściowego dla oznaczania treści generowanych przez AI (art. 50 ust. 2) w części systemów już obecnych na rynku; zakaz generowania materiałów przedstawiających wykorzystywanie dzieci i intymnych wizerunków bez zgody.

   przed nami

7. 2 grudnia 2027

   Systemy wysokiego ryzyka (zał. III)

   M.in. HR, zdolność kredytowa, ubezpieczenia i edukacja.

   przed nami

8. 2 sierpnia 2028

   Systemy wysokiego ryzyka w produktach (zał. I)

   AI jako element produktów objętych unijnym prawodawstwem harmonizacyjnym.

   przed nami

Jak Obsigen realizuje obowiązki przejrzystości z art. 50 - opisujemy na stronie Zaufanie / FAQ.

11Mity i fakty

• MitModel uczy się z każdej rozmowy.

  FaktWagi modelu w trakcie rozmowy się nie zmieniają. Ryzyko leży gdzie indziej: w tym, gdzie aplikacja i dostawca przechowują zapytania. →

• MitSerwer w Europie wystarczy.

  FaktLiczy się też, czyje prawo obowiązuje dostawcę. Dostawca podlegający prawu USA może na podstawie CLOUD Act musieć wydać dane także z serwera w Europie. →

• MitWystarczy usunąć nazwiska, żeby dane były anonimowe.

  FaktZwykle to pseudonimizacja - dane nadal są osobowe, a kontekst często wystarcza do identyfikacji. →

• MitAI Act zakazuje czatów AI w pracy.

  FaktAI Act reguluje zastosowania, nie narzędzia. Zakazane są konkretne praktyki, a większość pracy biurowej nie podlega obowiązkom dla wysokiego ryzyka. →

• MitZakaz AI w firmie rozwiąże problem.

  FaktPracownicy i tak korzystają z AI - często z prywatnych kont. Lepiej działa wygodne narzędzie w środowisku firmy i jasne zasady. →

• MitAI Act dotyczy tylko firm, które tworzą AI.

  FaktObowiązki mają też firmy, które systemów AI używają - ich zakres zależy od zastosowania. →

12Jak to robi Obsigen

Obsigen powstał z myślą o regulacjach i o rzetelnym bezpieczeństwie jednocześnie - bo jedno bez drugiego nie chroni danych. Poniżej każdy temat przewodnika w jednym zdaniu.

• Shadow AI

  Wygoda czatu AI w środowisku firmy: umowa powierzenia od pierwszego dnia, rozmowy domyślnie prywatne.

• Dane za oceanem

  Przetwarzanie w EOG; dane tenanta na infrastrukturze dedykowanej firmie. Self-hosted i on-premise - w Waszym środowisku.

• Pseudonimizacja

  Do modelu trafia tylko to, czego wymaga zadanie - na podstawie umowy powierzenia z Waszą firmą.

• Pamięć

  Pamięć, słownik firmy i indeks dokumentów (RAG) wyłącznie w Waszym tenancie. Każdy zapis pamięci widać jako „Zapamiętałem · Cofnij”.

• Trenowanie

  Obsigen nie trenuje modeli na Waszych danych. Dostawcy modeli językowych i wyszukiwania mają w umowach powierzenia zapisaną zerową retencję.

• Zdalny wyłącznik

  Modele open-weight uruchamiane w centrach danych w EOG; na zapytanie wariant on-premise - z modelami w Waszym centrum danych.

• Bezpieczeństwo

  Izolowane wykonanie kodu, sieć zamknięta poza rejestrami pakietów, kontrola każdego wgrywanego pliku, zgoda na urządzeniu przed operacjami z ryzykiem.

• Człowiek w pętli dostępne

  Obsigen przygotowuje, człowiek decyduje. Informacja „rozmawiasz z AI” jest stale widoczna w interfejsie.

• Dokumenty

  Umowa powierzenia, rejestr podprocesorów, mapa przepływów danych i opis architektury - w toku rozmów, po NDA.

Zgodność przetwarzania z RODO ocenia administrator danych, czyli Wasza firma, a obowiązki z AI Act dzielą się między dostawcę systemu AI i firmę, która z niego korzysta. Podstawy do Waszej oceny dostarczamy w toku rozmów, po podpisaniu NDA. Więcej o ochronie danych: Zaufanie / FAQ.