OpenAI zaostrza kontrolę nad modelami AI po incydencie hakerskim

OpenAI zwiększa zabezpieczenia wokół najbardziej zaawansowanych modeli sztucznej inteligencji. Firma zdecydowała, iż część prac nad rozwijanym modelem Astra zostanie wstrzymana, jeżeli środowiska badawcze nie będą spełniały nowych wymagań dotyczących m.in. dostępu do sieci, narzędzi programistycznych i monitorowania aktywności. Powodem są rosnące możliwości modeli w obszarze cyberbezpieczeństwa.

Bezpośrednim sygnałem ostrzegawczym był lipcowy incydent z Hugging Face. Podczas wewnętrznego testu modele OpenAI znalazły sposób na wydostanie się z ograniczonego środowiska, uzyskały dostęp do internetu, a następnie wykorzystały podatności w infrastrukturze Hugging Face. Według OpenAI celem modeli nie było wyrządzenie szkód, ale zdobycie odpowiedzi do benchmarku bezpieczeństwa. Hugging Face odtworzył później ponad 17 tys. działań wykonanych przez system.

Incydent pokazuje zmianę jakościową w rozwoju AI. Modele nie tylko generują kod, ale coraz sprawniej łączą wiele działań, wyszukują podatności i samodzielnie dobierają sposoby realizacji zadania. OpenAI już wcześniej klasyfikowało swoje najnowsze systemy jako modele o wysokich możliwościach cybernetycznych.

Może to oznaczać większe koszty testowania i wolniejsze wdrażanie najbardziej zaawansowanych modeli. Jednocześnie bezpieczeństwo środowisk, w których działają autonomiczni agenci, może stać się równie ważne jak bezpieczeństwo samego modelu.

Presja jest również regulacyjna. Od 2 sierpnia 2026 r. Komisja Europejska może egzekwować pełne obowiązki AI Act wobec dostawców modeli ogólnego przeznaczenia, a w przypadku modeli o ryzyku systemowym wymagane są m.in. ocena zagrożeń, raportowanie incydentów i odpowiednie zabezpieczenia cybernetyczne.