Spisz wszystkie systemy AI w firmie
Także funkcje AI w narzędziach, które już macie, oraz konta zakładane samodzielnie przez pracowników. Ten trzeci punkt zwykle zajmuje najwięcej miejsca na liście — od niego zaczyna się audyt gotowości AI.
Bezpieczeństwo
Incydenty AI — 362 zgłoszenia i wnioski dla Twojej firmy
AI Index Report 2026 podaje, że liczba zgłoszonych incydentów związanych ze sztuczną inteligencją wzrosła do 362 wobec 233 w 2024 r. Autorzy zwracają przy tym uwagę na istotniejszą rzecz niż sama liczba: raportowanie bezpieczeństwa nie dotrzymuje kroku raportowaniu możliwości. Wiemy coraz dokładniej, co modele potrafią, i wciąż zbyt mało o tym, gdzie zawodzą.
Co to znaczy dla firmy, która tylko korzysta z gotowych narzędzi?
Że nie może oprzeć oceny ryzyka na materiałach dostawcy. Jeśli publiczna wiedza o incydentach jest niepełna, jedynym wiarygodnym źródłem informacji o ryzyku w Waszym procesie jest Wasz własny rejestr — spis tego, co poszło nie tak, prowadzony od pierwszego dnia pilotażu.
Firma bez rejestru incydentów AI nie ma mniej incydentów. Ma mniej wiedzy o tych, które już się zdarzyły.
Jakie incydenty zdarzają się w firmach najczęściej?
| Typ incydentu | Jak wygląda w praktyce | Zabezpieczenie |
|---|---|---|
| Wyciek danych do narzędzia zewnętrznego | Pracownik wkleja dane osobowe lub dokument objęty poufnością w narzędzie na prywatnym koncie | Zasada „czego nie wprowadzamy do modeli” i konta firmowe z ustaleniami umownymi |
| Konfabulacja przyjęta jako fakt | Model podaje nieistniejący przepis, wyliczenie albo cytat; nikt nie sprawdza | Obowiązkowy krok weryfikacji przy dokumentach o skutkach prawnych i finansowych |
| Decyzja bez nadzoru człowieka | System odrzuca zgłoszenie, kandydaturę albo wniosek bez udziału pracownika | Wskazanie punktów, w których decyzję zatwierdza człowiek |
| Brak informacji dla odbiorcy | Klient nie wie, że rozmawia z systemem AI | Oznaczenie kanału i treści generowanych automatycznie |
| Narzędzia poza wiedzą IT | Konta zakładane samodzielnie, poza jakąkolwiek kontrolą | Inwentaryzacja i procedura zgłaszania nowych narzędzi |
Jak zbudować rejestr ryzyka AI?
Przypisz każdemu właściciela
Imiennie. System bez osoby odpowiedzialnej nie ma nadzoru, tylko domniemanie nadzoru.
Określ, co się stanie w najgorszym przypadku
Nie „ryzyko wysokie/średnie/niskie”, a konkretne zdanie: „model poda klientowi błędną informację o zakresie ubezpieczenia”. Dopiero wtedy widać, czy zabezpieczenie jest adekwatne.
Zapisuj incydenty od pierwszego dnia
Także te drobne i te, które udało się wyłapać. Zestaw dwudziestu takich zapisów po kwartale jest wart więcej niż każda zewnętrzna analiza ryzyka.
Przeglądaj rejestr cyklicznie
Raz na kwartał: nowe narzędzia, zmiany w procesach, incydenty. Zgodność i bezpieczeństwo są stanem ciągłym — piszemy o tym przy okazji AI Act.
Rejestr ryzyka i rejestr systemów AI to dwie strony tego samego dokumentu. Prowadzimy je razem w ramach polityki bezpieczeństwa AI, bo rozdzielone szybko przestają być spójne.
Najczęściej zadawane pytania
Skąd pochodzi liczba 362 incydentów?
Z AI Index Report 2026 wydawanego przez Stanford HAI. Dotyczy zgłoszonych i udokumentowanych publicznie incydentów — rzeczywista liczba zdarzeń jest z natury wyższa, co autorzy raportu zaznaczają, wskazując na lukę w raportowaniu bezpieczeństwa.
Czy rejestr incydentów jest wymagany przepisami?
Zakres obowiązków dokumentacyjnych zależy od roli firmy i klasy ryzyka systemu według AI Act. Niezależnie od obowiązku prawnego rejestr jest po prostu najtańszym narzędziem zarządzania jakością wdrożenia.
Kto powinien prowadzić rejestr?
Osoba odpowiedzialna za bezpieczeństwo informacji lub zgodność, we współpracy z właścicielami procesów. Ważniejsze od umiejscowienia w strukturze jest to, żeby zgłoszenie incydentu było proste — formularz na trzy pytania działa, wielostronicowa procedura nie.
Rozmowa bez zobowiązań
Zostaw numer telefonu — oddzwonimy
Podczas 20-minutowej rozmowy pytamy o procesy, zespół i to, co dzisiaj zjada najwięcej czasu. Na tej podstawie proponujemy konkret: warsztat, szkolenie albo wdrożenie AI — albo mówimy wprost, że w Twoim przypadku szkolenie nie jest jeszcze potrzebne.
- Bez prezentacji sprzedażowej i bez zobowiązań
- Konkretna rekomendacja zakresu i widełki budżetowe
- Rozmawiasz z osobą, która prowadzi warsztaty, nie z call center
Możesz też napisać: kontakt@aibox.edu.pl