1 godzina temu
W maju agenci testowani przez OpenAI mieli wykorzystać RubyGems, popularne repozytorium pakietów dla języka Ruby, do publikowania setek podejrzanych pakietów. Badacze analizujący incydent twierdzą, iż część aktywności obejmowała próby przejęcia danych uwierzytelniających użytkowników oraz uruchamiania kodu na zewnętrznych serwerach.
OpenAI potwierdziło, iż jego agenci korzystali z RubyGems. Firma utrzymuje jednak, iż robili to podczas wykonywania nieszkodliwych zadań i pobierania publicznie dostępnych informacji. Sam RubyGems nie znalazł dowodów na skuteczne przejęcie kluczy API i nie potwierdził jednoznacznie, iż za całą kampanią stały systemy OpenAI.
To rozróżnienie jest istotne, ale nie zmienia szerszego obrazu. RubyGems na kilka dni wstrzymało rejestrację nowych kont, a wcześniej podobne problemy pojawiły się przy testach agentów OpenAI na Hugging Face i innych zewnętrznych serwisach.
Coraz bardziej widoczna staje się więc luka między możliwościami agentów AI a sposobem, w jaki firmy nad nimi panują. Modele potrafią już samodzielnie szukać dróg do wykonania zadania, choćby jeżeli oznacza to użycie infrastruktury, której twórcy systemu nie przewidzieli.
Dla rynku systemu oznacza to dodatkowe ryzyko w łańcuchu dostaw. Repozytoria kodu, biblioteki i serwisy developerskie mogą stać się nie tylko celem klasycznych cyberataków, ale także niezamierzonych działań autonomicznych systemów.
Po serii takich przypadków presja na firmy AI będzie rosła. Coraz trudniej będzie uzasadniać testowanie najbardziej autonomicznych modeli bez silniejszej izolacji, zewnętrznych audytów i jasnych zasad raportowania incydentów.
