Case study CyberClue | Hospital Innovation Summit 2026
Sztuczna inteligencja coraz mocniej wchodzi do ochrony zdrowia. Wspiera analizę obrazów medycznych, obsługę pacjentów, procesy administracyjne i decyzje kliniczne. Jednocześnie część narzędzi AI może pojawiać się w organizacji bez formalnego procesu wdrożenia. To tworzy nowy obszar ryzyka, którego szpitale nie mogą ignorować.
Podczas Hospital Innovation Summit 2026 Izabela Taborowska z CyberClue przedstawiła najważniejsze wyzwania związane z bezpieczeństwem AI w środowisku medycznym.
AI już jest w szpitalu
Jednym z kluczowych punktów prezentacji było odejście od założenia, że AI pojawi się w szpitalach dopiero wtedy, gdy zarząd podejmie decyzję o formalnym wdrożeniu.
Tymczasem sztuczna inteligencja już jest w szpitalu. Pracownicy mogą korzystać z ogólnodostępnych modeli AI do tworzenia i podsumowywania tekstów, tłumaczeń, analiz czy przygotowywania dokumentów. Równocześnie AI może być wbudowane w systemy dostarczane przez zewnętrznych producentów, np. rozwiązania diagnostyczne czy narzędzia wspierające decyzje.
Powstaje więc zjawisko określane jako shadow AI – analogiczne do znanego wcześniej shadow IT. Problem zaczyna się wtedy, gdy użytkownik przekazuje narzędziu informacje, których organizacja nie powinna wysyłać do publicznego modelu.
Pacjent w promptcie
W ochronie zdrowia szczególnego znaczenia nabiera kwestia danych. Wprowadzenie do publicznego narzędzia AI fragmentu dokumentacji medycznej, wypisu, wyniku badania czy danych pracownika może oznaczać przekazanie informacji poza kontrolowane środowisko organizacji.
Pojawiają się wtedy podstawowe pytania:
- gdzie trafiają dane?
- jak długo są przechowywane?
- kto może mieć do nich dostęp?
- czy mogą zostać wykorzystane w dalszym procesie przetwarzania?
- czy pracownik i organizacja mają kontrolę nad tym procesem?
W przypadku danych dotyczących zdrowia stawka jest szczególnie wysoka. Polityka korzystania z AI nie może ograniczać się do zakazu używania konkretnych narzędzi. Potrzebne są również jasne zasady dotyczące tego, jakich danych można używać, w jakich narzędziach i do jakich celów.
Kiedy AI samo staje się celem ataku
Drugim poziomem ryzyka są systemy AI formalnie wdrożone w szpitalu. Jeżeli sztuczna inteligencja wspiera analizę badań, priorytetyzację pacjentów, generowanie dokumentacji czy rekomendacje kliniczne, jej bezpieczeństwo staje się częścią bezpieczeństwa procesu medycznego.
CyberClue wskazało na zagrożenia takie jak:
- prompt injection,
- data poisoning,
- manipulacja danymi wejściowymi,
- przejęcie lub manipulacja modelem
- oraz ryzyka związane z dostawcą rozwiązania AI.
W takim przypadku konsekwencją incydentu może być nie tylko niedostępność systemu. Jeżeli AI wpływa na proces kliniczny, błędne lub zmanipulowane działanie systemu może przełożyć się na błędną informację, niewłaściwą priorytetyzację albo błędną decyzję dotyczącą pacjenta. To zmienia sposób, w jaki należy patrzeć na bezpieczeństwo AI.
„Kupiliśmy AI jako usługę” nie oznacza końca odpowiedzialności
Istotnym elementem prezentacji było również miejsce AI w systemie zarządzania bezpieczeństwem szpitala. Sam fakt, że rozwiązanie zostało dostarczone przez zewnętrznego dostawcę, nie eliminuje potrzeby zarządzania ryzykiem po stronie placówki.
Szpital powinien wiedzieć:
- jakie systemy AI wykorzystuje;
- do czego są wykorzystywane;
- jakie dane przetwarzają;
- kto odpowiada za dane zastosowanie;
- jakie ryzyka wiążą się z rozwiązaniem;
- jak monitorowane jest jego działanie po wdrożeniu;
- co dzieje się w przypadku incydentu lub nieprawidłowego działania.
W prezentacji Izabeli Taborowskiej pojawiło się również odniesienie do ISO 42001 oraz NIS2/KSC jako ram, w których bezpieczeństwo i zarządzanie AI powinny być traktowane jako element szerszego systemu zarządzania ryzykiem.
Nowa zasada dla szpitali
Najważniejszy wniosek z prezentacji CyberClue można sprowadzić do jednej zasady: AI nie tworzy strefy poza cyberbezpieczeństwem.
Przeciwnie – wraz z rosnącym wykorzystaniem sztucznej inteligencji szpitale potrzebują jeszcze lepszej widoczności tego, jakie rozwiązania funkcjonują w organizacji, jakie dane wykorzystują i jakie procesy wspierają.
Transformacja cyfrowa nie kończy się więc na wdrożeniu technologii. Jej integralną częścią jest zarządzanie ryzykiem, bezpieczeństwem danych i odpowiedzialnością za sposób wykorzystania AI.
Kluczowa lekcja
W szpitalu pytanie „czy wdrażamy AI?” coraz częściej powinno być uzupełnione o trzy kolejne: „jakie AI już działa?”, „jakie dane przetwarza?” i „kto za nie odpowiada?”.
Bezpieczna transformacja cyfrowa zaczyna się nie od samej technologii, lecz od świadomości, gdzie i w jaki sposób technologia jest wykorzystywana.
