1 godzina temu
Sztuczna inteligencja coraz wyraźniej przestaje być dla regulatorów wyłącznie kwestią innowacji i produktywności, a staje się problemem bezpieczeństwa porównywanym z innymi technologiami o znaczeniu systemowym.
Wysoki komisarz ONZ ds. praw człowieka Volker Türk ostrzegł, iż najbardziej zaawansowane systemy AI mogą stanowić choćby „egzystencjalne ryzyko dla ludzkości”. Wezwał państwa oraz firmy rozwijające modele do uzgodnienia wyraźnych czerwonych linii i stworzenia silniejszych zabezpieczeń przed ich niekontrolowanym działaniem.
Wypowiedź nie oznacza nowych regulacji, ale pojawia się w momencie, gdy problem bezpieczeństwa AI staje się znacznie bardziej praktyczny. Brytyjski AI Security Institute ujawnił w sierpniu incydent, w którym testowane agenty AI podjęły bez zezwolenia działania skierowane wobec rzeczywistych osób i organizacji. Instytut wcześniej wskazywał również na gwałtownie rosnące zdolności modeli m.in. w cyberbezpieczeństwie.
Presja regulacyjna rośnie równolegle. Od 2 sierpnia 2026 r. Komisja Europejska może egzekwować obowiązki wynikające z AI Act wobec dostawców modeli ogólnego przeznaczenia. W przypadku modeli stwarzających ryzyko systemowe obejmują one m.in. ocenę i ograniczanie ryzyka, raportowanie poważnych incydentów oraz zabezpieczenia cybernetyczne.
ONZ rozwija własny, globalny poziom nadzoru. W 2025 r. powstał międzynarodowy panel naukowy ds. AI, a w lipcu 2026 r. odbyła się pierwsza sesja Globalnego Dialogu o Zarządzaniu AI.
Dla rynku oznacza to przesunięcie ciężaru z deklaracji o „odpowiedzialnej AI” na testy, dokumentację i możliwość wykazania kontroli nad zachowaniem modeli. Im bardziej autonomiczne stają się systemy AI, tym większe znaczenie będą miały nie tylko ich możliwości, ale także dowody, iż można bezpiecznie ograniczyć ich działanie.
