Niemal 70% liderów IT przyznaje, że w ich firmach zautomatyzowane procesy wspierane przez sztuczną inteligencję mają kontakt z wrażliwymi danymi bez pełnego nadzoru – wynika z badania Veeam. Jednocześnie 67% wskazuje, że pracownicy tworzą autonomiczne przepływy pracy wykorzystujące AI, których działy IT nie są w stanie w pełni monitorować. W efekcie w wielu przedsiębiorstwach powstają luki w wiedzy o tym, jakie informacje wykorzystują poszczególne agenty AI i w jakim celu.
Jeszcze niedawno firmy wdrażały AI głównie w formie pojedynczych modeli wspierających pracowników. Dziś obok nich coraz częściej pojawiają się agenty AI, które samodzielnie realizują sekwencje zadań, korzystają z wielu źródeł informacji i podejmują kolejne działania bez bieżącej ingerencji człowieka. Ich rosnąca autonomia sprawia, że firmy muszą kontrolować nie tylko dostęp do danych, lecz także sposób ich wykorzystania.
Bezpieczne wdrażanie sztucznej inteligencji zaczyna się od danych
Potrzeba takiego nadzoru wpływa na decyzje firm dotyczące dalszego rozwoju sztucznej inteligencji. Dla 41% respondentów głównym powodem budowy własnego środowiska AI jest ograniczenie ryzyka związanego z shadow AI oraz nieuprawnionym ujawnieniem danych. Shadow AI oznacza korzystanie z rozwiązań opartych na sztucznej inteligencji bez wiedzy lub zgody działu IT bądź osób odpowiedzialnych za ochronę danych i zgodność z regulacjami. Z kolei 37% badanych wskazuje na potrzebę zachowania pełnej kontroli prawnej nad informacjami. Taki sam odsetek podkreśla znaczenie modeli dopasowanych do specyfiki przedsiębiorstwa.
Zmieniają się tym samym kryteria sukcesu projektów AI. Obok skuteczności modeli i ich możliwości analitycznych coraz większe znaczenie ma świadome zarządzanie danymi wykorzystywanymi przez autonomiczne procesy. Sposób sprawowania nadzoru nad zasobami informacyjnymi będzie miał istotny wpływ na to, czy agenty AI bezpiecznie wesprą biznes, czy staną się źródłem nowych ryzyk operacyjnych.
Tylko 4 na 10 firm potrafią ograniczać skutki błędów AI
Rosnąca autonomia agentów AI przynosi firmom korzyści z automatyzacji, ale zwiększa też ryzyko wykorzystania niewłaściwych danych lub podjęcia błędnej decyzji. Badanie Veeam wskazuje, że przedsiębiorstwa nadal mają ograniczone możliwości reagowania na takie zdarzenia. Jedynie 40% respondentów deklaruje, że dysponuje niezawodnymi procesami odzyskiwania krytycznych danych po błędach spowodowanych przez AI. Taki sam odsetek potrafi szybko zidentyfikować i odizolować ich następstwa.
Zagrożenie wiąże się nie tylko z samym błędem, lecz także z tempem jego rozprzestrzeniania się w zautomatyzowanym środowisku. Agent AI połączony z wieloma systemami może przenieść nieprawidłowe dane lub konsekwencje niewłaściwej decyzji na kolejne etapy procesu biznesowego. Firmy muszą więc umieć szybko ustalić źródło problemu, ocenić jego skalę, odizolować następstwa i odtworzyć prawidłowe dane. Pozwala to ograniczyć wpływ incydentu i bezpiecznie wznowić działanie.
Rozwój agentów AI wymaga zatem szerszego podejścia do bezpieczeństwa i cyfrowej odporności. Bezpieczne skalowanie ich zastosowań zależy nie tylko od jakości modeli, lecz także od zdolności przedsiębiorstwa do monitorowania danych, wykrywania incydentów i przywracania prawidłowego działania procesów.
O badaniu
Badanie zostało przeprowadzone przez niezależną firmę badawczą Censuswide na zlecenie Veeam. Objęło 1000 osób odpowiedzialnych za podejmowanie decyzji w obszarach IT, danych i bezpieczeństwa w organizacjach zatrudniających co najmniej 500 pracowników. Respondenci pochodzili z Wielkiej Brytanii, Niemiec, Francji oraz regionu Bliskiego Wschodu i Afryki, w tym z Turcji, Izraela, Zjednoczonych Emiratów Arabskich, Arabii Saudyjskiej, Nigerii, Republiki Południowej Afryki i Kenii. Dane zebrano w dniach 21–27 kwietnia 2026 roku.
Censuswide przestrzega zasad Market Research Society (MRS), opartych na wytycznych ESOMAR, i zatrudnia członków tej organizacji.
Więcej informacji znajduje się na stronie www.veeam.com.