✅ Checklista inwentaryzacji:

• Lista wszystkich zewnętrznych narzędzi AI (ChatGPT Enterprise, Copilot, Grammarly AI, Salesforce Einstein, etc.)
• Lista wewnętrznych systemów z komponentem AI (automatyczne scoring, rekrutacja przez AI, monitoring pracowników)
• AI w produktach które sprzedajecie klientom
• AI w procesach HR (screening CV, ocena wydajności przez system)
• Modele LLM dostępne przez API (OpenAI, Anthropic, Azure OpenAI)
• Chatboty klienckie z AI

🔴 Zakaz bezwzględny (sprawdź czy nie używasz):

• ☐ Social scoring pracowników lub klientów przez AI
• ☐ Manipulacja zachowaniem użytkowników bez ich wiedzy
• ☐ Identyfikacja emocji w miejscu pracy (stress detection przez kamerę)
• ☐ Masowa biometria w przestrzeni publicznej

🟠 Wysokie ryzyko (wymaga dokumentacji i compliance):

• ☐ AI w rekrutacji i selekcji kandydatów
• ☐ AI scoring zdolności kredytowej
• ☐ AI w decyzjach o dostępie do ubezpieczeń
• ☐ AI zarządzające infrastrukturą krytyczną
• ☐ AI wspomagające decyzje sądowe lub administracyjne

🟢 Ograniczone ryzyko (transparency obligations):

• ☐ Chatboty muszą informować że są botami
• ☐ Deepfake i AI-generated content musi być oznaczony
• ☐ Systemy rozpoznawania emocji muszą informować użytkowników

✅ Checklista dokumentacji (systemy high risk):

• ☐ Techniczna dokumentacja systemu AI (architektura, dane treningowe, metryki)
• ☐ Ocena ryzyka i plan mitygacji
• ☐ Procedury data governance (jakie dane, skąd, jak długo przechowywane)
• ☐ Plan monitoringu po wdrożeniu (post-market surveillance)
• ☐ Rejestracja w EU AI Database (dla HR, credit scoring, etc.)
• ☐ Oznaczenie CE (dla dostawców wbudowanych systemów AI)

✅ Checklista szkoleń:

• ☐ Identyfikacja ról które pracują z systemami AI
• ☐ Szkolenie awareness dla wszystkich pracowników używających AI
• ☐ Szkolenie zaawansowane dla osób zarządzających systemami AI
• ☐ Dokumentacja szkoleń (kto, kiedy, co)
• ☐ Plan odświeżania wiedzy (regulacje się zmieniają)

✅ Checklista polityk:

• ☐ Polityka dozwolonego użycia AI (approved tools, forbidden use cases)
• ☐ Polityka danych - co wolno wklejać do zewnętrznych LLM
• ☐ Procedura oceny nowych narzędzi AI przed wdrożeniem
• ☐ Procedura incydentów AI (co gdy model popełni błąd z poważnymi skutkami)
• ☐ Odpowiedzialność - AI Owner dla każdego systemu wysokiego ryzyka

Powyższe polityki formalizuje standard ISO/IEC 42001 - System Zarządzania AI uznawany przez regulatorów jako dowód compliance z AI ACT.

Newsletter bloga JSystems

Otrzymuj nowe artykuły prosto na swoją skrzynkę

Zapisz się do newslettera bloga JSystems - wiedza IT i AI bez szumu, prosto na Twoją skrzynkę.

Szkolenia AI ACT i AI Governance dla kadry technicznej

JSystems oferuje dedykowane szkolenia dla CTO, CISO i compliance officerów: "Gotowość na AI ACT" (2 dni) i "AI Governance dla kadry zarządzającej" (2 dni). Prowadzi Krzysztof Supowicz.

Szkolenie AI ACT → -   AI Governance →