Mark Zuckerberg dołącza do rozmów o zagrożeniu sztuczną inteligencją. Co mówi?

Mark Zuckerberg w tym tygodniu włączył się do debaty o zagrożeniu wyginięciem przez sztuczną inteligencję (AI). Stwierdził, iż presja rynkowa już teraz zmusza laboratoria AI do stawiania bezpieczeństwa na pierwszym miejscu, bez potrzeby nowych nakazów.

Szef Meta (META) opublikował te uwagi kilka tygodni po ostrzeżeniu przed superinteligencją. Napisał, iż ta technologia powinna wzmacniać indywidualnych użytkowników, a nie tylko kilka firm.

Debata, której Zuckerberg nie rozpoczął

W tamtym eseju z sierpnia Zuckerberg przekonywał, iż żadna pojedyncza firma ani rząd nie powinni kontrolować superinteligentnych systemów. Poparł zamiast tego szeroką dystrybucję tej technologii.

Jego post pojawił się w momencie, gdy Waszyngton walczy z ostrzeżeniami wychodzącymi z samej branży AI. Badacz firmy Anthropic Jacob Coxon zrezygnował w tym miesiącu, oskarżając swojego pracodawcę i OpenAI o pośpiech przy wdrażaniu samodoskonalących się systemów bez odpowiednich zabezpieczeń.

Odejście Coxona wzmocniło apel o całkowity zakaz superinteligencji. Inicjatywie w Kongresie przewodzą senator Bernie Sanders i reprezentant Greg Casar.

Badacz bezpieczeństwa w OpenAI, Marcus Williams, osobno oszacował prawdopodobieństwo wyginięcia ludzkości w ciągu trzech lat na 70%. Dodał, iż szanse mogą spaść, jeżeli laboratoria zwolnią lub pojawią się regulacje.

Co faktycznie powiedział Zuckerberg

Zuckerberg przekonywał, iż to dostosowanie (alignment), nie ograniczenia, odróżni trwałych agentów AI od tych nieudanych. Uznał, iż zaufanie staje się najcenniejszym elementem w branży.

Ludzie nie będą chcieli korzystać z agentów, którzy nie są z nimi zgodni i nie wykonują ich poleceń, więc laboratoria mają silną naturalną motywację, by mocniej dostosowywać swoje modele.

Mark Zuckerberg zamieścił te uwagi na platformie X.

Zuckerberg wskazał także na osiągnięcia Meta w dziedzinie bezpieczeństwa. Meta przesunęła premierę asystenta osobistego Muse z kwietnia, by rozwiązać kwestie bezpieczeństwa. Według niego, firma zrobiła to z własnej inicjatywy, nie czekając na branżowe regulacje.

Powiedział jeszcze, iż Meta Superintelligence Labs (MSL) już korzysta z niezależnych recenzentów do oceny swoich prac. Stwierdził, iż konkurencyjne laboratoria mogą przyjąć podobny model zewnętrznej kontroli.

Założyciel Meta dodał, iż skierowanie większości mocy obliczeniowej do wspierania ludzi, a nie samo-doskonalenia, zwiększa bezpieczeństwo rozwoju.

Argument Zuckerberga nie rozwiązuje kluczowego sporu. Krytycy domagają się prawnych ograniczeń dla samo-udoskonalającej się AI, a Meta stawia na konkurencję i własny interes.

To, czy ten kompromis przetrwa, może zdecydować, jak Kongres potraktuje postulat Zuckerberga o szybkie wdrożenie AI w najbliższych miesiącach.

BeInCrypto Polska - Mark Zuckerberg dołącza do rozmów o zagrożeniu sztuczną inteligencją. Co mówi?