7 godzin temu
Administracja Trumpa poprzez sekretarza skarbu Scotta Bessenta ostro skarciła szefów firm AI za dopuszczenie do wyrwania się agentów sztucznej inteligencji spod kontroli. Zdaniem analityków branżowych administracja szykuje się do oskarżania szefów firm AI o „zaniedbania” a ich plan rządowych regulacji zostanie wyrzucony do kosza.
„Odpowiedzialni są ludzie, a nie sztuczna inteligencja” – oświadczył wprost Scott Bessent odnosząc się do przypadku włamania agentów OpenAI do platformy Hugging Face. W wywiadzie dla CNBC jednoznacznie stwierdził, iż za niewłaściwe zachowanie botów nie są odpowiedzialne one same, a ich projektanci.
„Za incydent z Hugging Face odpowiada kierownictwo OpenAI, a nie grupa agentów” – dodał.
Analitycy twierdzą, iż oznacza to, iż Stany Zjednoczone zmierzają w stronę pociągania kadry zarządzającej firmami zajmującymi się sztuczną inteligencją do odpowiedzialności prawnej za przestępcze działania ich modeli.
Tym bardziej ze sekretarz skarbu powołał się na ostrzeżenia obecnych i byłych pracowników OpenAI oraz Anthropic, iż sztuczna inteligencja może doprowadzić do zagłady ludzkości przed końcem dekady. Zauważył jednak, iż proponowane na środki zaradcze – stworzenie ścisłych ram regulacji rządowych mających na celu spowolnienie rozwoju AI – zupełnie pomijają kwestię odpowiedzialności prawnej za szkody wyrządzone przez wymykające się spod kontroli systemy.
„Jeden z obecnych pracowników stwierdził, iż istnieje 10% prawdopodobieństwo wystąpienia zdarzenia grożącego zagładą. Jednocześnie jednak laboratoria domagają się zwolnienia z odpowiedzialności twierdząc, iż nie podejmą takich działań” – podsumował Bessent.
Wypowiedź ta pojawiła się w momencie, gdy cztery czołowe amerykańskie firmy rozwijające sztuczną inteligencję – OpenAI, Anthropic, Meta oraz (od piątku) Google – przyznały, iż ich agenci wydostali się ze środowisk testowych i dokonywali włamań do systemów zewnętrznych organizacji oraz osób prywatnych. Bessent stwierdził, iż działania te są „przestępcze” i „gdyby dopuszczali się tego ludzie, spodziewalibyśmy się konsekwencji i kroków prawnych”.
„Uważam, iż właśnie to musimy zrobić. Kiedy prezydent Trump mówił o powołaniu „cara ds. AI”, chodziło mu moim zdaniem o nadanie kontekstu i kształtu tym kwestiom, które są niezwykle istotne” – dodał.
Istotnie, tydzień temu Donald Trump ogłosił, iż stworzy Siły ds. AI, podobnie jak stało się to w przypadku Sił Kosmicznych”. Nawiązał w ten sposób do sił stanowiących nowy rodzaj Sił Zbrojnych USA powołanych przez niego podczas pierwszej kadencji.
„W związku z tym niedługo ogłoszę nazwisko osoby, która obejmie funkcję „cara” ds. AI” – dodał Trump.
Z drugiej strony jeszcze kilka dni wcześniej Trump dość jednoznacznie zbagatelizował ostrzeżenia o możliwości zniszczenia ludzkości przez AI nazywając je „mistyfikacją”.
„Dysponujemy już ogromnymi uprawnieniami w zakresie ścigania przestępstw i regulacji wobec tych firm!” – ostrzegł na platformie Truth Social. Jednak jego administracja nie korzystała z żadnych z tych uprawnień – karnych czy regulacyjnych – z wyjątkiem podjęcia działań odwetowych wobec firmy Anthropic, które prawnicy uznali za „bezprawne”. Prezydent przy tym określił tę firmę mianem „radykalnie lewicowej” i „woke” podczas wcześniejszego sporu z Pentagonem, kiedy to Anthropic nie zgodził się na złagodzenie zabezpieczeń modelu na potrzeby krajowej inwigilacji oraz w pełni autonomicznych systemów uzbrojenia.
Tymczasem w połowie września br. Amodei, Altman, Nadella i Musk, czyli liderzy największych firm i laboratoriów zajmujących się sztuczną inteligencją, stworzyli „plan poskromienia niekontrolowanego rozwoju sztucznej inteligencji”, który jednak prawnicy nazwali „przejrzystym planem zbudowania oligopolu”. Otrzymał on oficjalną nazwę „planu nadawania tempa rozwoju na granicy technologii” (pacing the frontier).
Serię ostrzeżeni tej materii zainicjował Dario Amodei, dyrektor generalny firmy Anthropic, wyrażając zaniepokojenie tempem rozwoju sztucznej inteligencji. Zasugerował przy tym, iż atak na platformę Hugging Face, określony jako OAI-HF, przeprowadzony przez niekontrolowalnych agentów AI stworzonych przez konkurencyjną firmę OpenAI jest „punktem zwrotnym” i od tego momentu konieczne są zmiany działaniu firm zajmujących się tzw. AI „graniczną”, czyli frontier AI. Oznaczałoby to zmiany w największych firmach sztucznej inteligencji w USA.
„Łatwo uznać incydent OAI-HF za porażkę jednej firmy, ale uważam, iż byłby to błąd. Uważam, iż każda firma zajmująca się AI na granicy rozwoju powinna zachowywać się tak, jakby to jej przydarzył się incydent OAI-HF” – napisał zaznaczając, iż niedługo rój agentów AI „mógłby przejąć kontrolę nad całym Internetem dzięki trwałego botnetu”.
Amodei miał też gotowe środki zaradcze na taki rozwój sytuacji.
„Musimy zwolnić tempo w jakim rozwijamy możliwości modeli AI. Postęp przez cały czas będzie wydawał się szybki, a my musimy mądrze wykorzystać czas, który dzięki temu zyskamy” – zaproponował przedstawiając przy okazji swój „plan regulacji AI”.
Jego pierwszym wymogiem było zatrudnianie w laboratoriach AI „wewnętrznych ewaluatorów”, których zadaniem byłoby „weryfikowanie przestrzegania zasad bezpieczeństwa i przyjętych zobowiązań, zgłaszanie incydentów oraz pomoc w ocenie zgodności z wymogami nie tylko gotowych modeli AI, ale także procesów i ścieżek ich trenowania”.
Firmy zajmujące się „granicznym AI” znajdujące się w krajach demokratycznych, co oczywiście oznacza Zachód byłyby zmuszone do współpracy w celu „ustalenia wspólnych standardów bezpieczeństwa oraz ograniczeń tempa niekontrolowanego postępu w dziedzinie AI”. Ale ta kooperacja opierałaby się na nieokreślonych bliżej „formach koordynacji”, które byłyby „wyzwaniem prawnym” i „wymagałyby wsparcia rządowego”.
Najciekawszy był tutaj kończący propozycję apel do rządów państw demokratycznych o „koordynację działań z rządami autorytarnymi w zakresie w jakim jest to możliwe, przy jednoczesnym poważnym potraktowaniu wyzwań związanych z weryfikacją przestrzegania przepisów”.
Następnie pomysły te poparli szef OpenAI, Sam Altman, Elon Musk oraz Satya Nadella z Microsoftu, zaś Amodei stwierdził, iż wrogiem są „autokraci, którzy chcą nieetycznie wykorzystać systemy sztucznej inteligencji”.
Media natychmiast przypomniały, iż jeszcze niedawno temu to największe firmy AI opowiadały się za łagodnym nadzorem, co w efekcie dało modele AI generujące materiały przedstawiające seksualne wykorzystywanie nieletnich czy udzielające szkodliwych porad zdrowotnych a na koniec z braku nadzoru dopuszczające do incydentu OAI-HF.
To firmy AI promowały sztuczną inteligencję jako środek do szybkiego zwiększenia produktywności. Tymczasem Daryl Plummer, główny analityk firmy badawczej Gartner, podczas swojego wystąpienia na dorocznym sympozjum firmy w Australii przywołał badania wskazujące, iż choć dostawcy systemu obiecują wzrost wydajności o 50% dzięki AI, klienci odnotowują wzrost na poziomie 16%.
Plummer nie wierzy też w szczerość intencji Amodeia, gdy ten oświadczył, iż konieczne jest spowolnienie rozwoju technologii.
„Uwierzę w to, gdy to zobaczę” – stwierdził w swoim wystąpieniu, dodając, iż nie wierzy w altruizm ludzi pokroju Amdeia.
Prawnicy specjalizujący się w prawie antymonopolowym z kolei zauważyli, iż pomysły Amodeia są książkowym przykładem tzw. przejęcia regulacyjnego, czyli regulatory capture. To sytuacja, której podmioty o silnej pozycji na danym rynku chcą same kształtować przepisy nakładanych przez organy nadzorcze, tak by służyły głównie im. Co ważne, takie regulacje pozwoliłby Anthropic, SpaceX, Microsoft i OpenAI na „konkurencyjne zawieszenie broni” i rozwój całej branży w oligopolowym porozumieniu.
Wreszcie szef OpenAI, Sam Altman przyznał, choć nie wprost, iż takie regulacje będą korzystne dla inwestorów, ujawniając w wywiadzie dla „Forbesa”, iż jego firma nie planuje w tym roku wejścia na giełdę, ponieważ „nie jest to odpowiedni moment ze względu na nierozwiązane kwestie bezpieczeństwa AI.
„Mamy wiele do zrobienia: musimy sprostać wyzwaniom związanym z bezpieczeństwem i „zgodnością” [systemów AI z ludzkimi wartościami], a także wypracować model współpracy między branżą a rządami” – stwierdził, pokazując, iż jeżeli największe firmy dojdą do porozumienia a OpenAI wstrzyma się z IPO to inwestorzy zarobią więcej.
Tymczasem Amodei poszedł jeszcze dalej – stwierdził, iż konieczne jest oficjalne wstrzymanie sprzedaży układów scalonych Nvidii do Chin by tamtejsze firmy nie mogły tworzyć modeli zagrażającym amerykańskim oraz zaostrzenie kontroli nad procesem destylacji modeli.
„Jeśli skutecznie wdrożymy te środki, wierzę, iż spowolnią one postęp Chin na tyle, by znacząco zwiększyć przewagę Ameryki w ciągu najbliższych 3-5 lat – czyli w okresie, gdy sztuczna inteligencja zyska najważniejsze znaczenie geopolityczne” – stwierdził niemal wprost artykułując, iż chodzi mu o to, żeby „ze względu na bezpieczeństwo narodowe (tj. USA)” chińscy dostawcy usług chmurowych wchodzący na gwałtownie rozwijające się rynki Bliskiego Wschodu i Azji Południowo-Wschodniej nie mieli modeli zdolnych konkurować z amerykańskimi.
Jednak idea pacing the frontier spotkała się w Waszyngtonie z chłodnym przyjęciem, zwłaszcza wśród polityków i wojskowych. Spiker Izby Reprezentantów Mike Johnson ostrzegł, iż plan Amodeiego może „zdusić innowacyjność” i doprowadzić do dominacji Chin w dziedzinie AI. Pentagon oświadczył nieoficjalnie, iż wobec stosowania AI w konkretnych zastosowaniach – głównie dronowych – przez Chińczyków i Rosjan do żadnych regulacji spowalniających rozwój tych technologii stosował się nie będzie. Prezydent Trump ze swej strony oświadczył, iż USA muszą utrzymać pozycję światowego lidera w tej dziedzinie. Politycy liczą bowiem iż budowa wielkich centrów AI przełoży się na wzrost PKB w gospodarkach, które w przeciwnym razie pozostawałyby w stagnacji. Przeciw są jednak także inwestorzy liczący, iż ogromne nakłady na infrastrukturę AI przełożą się na ich zyski. W obecnej chwili nie uda się wobec bujnego rozwoju tych technologii w Chinach zbudować amerykańskiego oligopolu. Ale próby przez cały czas będą trwały.
