Bunt AI to mit. Czemu więc nas nim straszą?

• Rzekomy bunt AI w laboratoriach firmy OpenAI.
• Apele szefów firm technologicznych o pilne regulacje.
• Gigantyczne straty finansowe i opóźnione debiuty giełdowe.
• Strach jako narzędzie do zdobywania funduszy i wpływu na prawo.
• Prawdziwe zagrożenia AI, a nie fikcyjna apokalipsa.

Zaczęło się tak, jak mógłby się zacząć film science fiction. Pod koniec lipca świat obiegła informacja, że firma OpenAI miała utracić kontrolę nad swoimi „agentami”, które miały uciec z „piaskownicy”, komunikować ze sobą, zostawiać sobie instrukcje i wreszcie – włamać się do zasobów serwisu Hugging Face. To, co początkowo wydawało się co najwyżej ciekawostką dla nerdów, szybko przebiło się do mainstreamu i przybrało postać krótkiego komunikatu: sztuczna inteligencja wymyka się spod kontroli.

Logiczne wydawałoby się, że firmy z branży będą zapewniać, że nic złego się dzieje i mają nad wszystkim kontrolę. Stało się jednak odwrotnie. Zamiast tonujących emocje komunikatów prasowych i obracających wszystko w żart tweetów, Sam Altman (OpenAI), Dario Amodei (Anthropic), a nawet Elon Musk zaczęli podgrzewać atmosferę, apelując, by ich związane z AI przedsięwzięcia zostały czym prędzej spowolnione i objęte regulacjami. Nie były to zresztą pierwsze takie głosy, choć tym razem opakowano je w nośną historię o buncie maszyn.

Wszyscy jesteśmy w zupie?

Oliwy do ognia dolał na początku września Jacob Coxon, były pracownik Anthropica, który odszedł z pracy już po czterech miesiącach, po czym stwierdził, że laboratoria AI „igrają z naszym życiem”. Słowa te podchwycił jego były przełożony, Evan Hubinger, który ocenił, że szansa na to, że w ciągu dekady AI doprowadzi do zagłady ludzkości jest wyższa niż 10 procent. Choć rzucona bez żadnego punktu odniesienia liczba nic w zasadzie nie znaczy, a jeden i drugi nie zająknęli się nawet, w jaki sposób miałoby dojść do tej tragedii, ich wpisy podało dalej wystarczająco wielu ludzi z branży AI, by zrobiło się o nich głośno.

Słowa Coxona doczekały się zresztą wspaniałej parodii, która dobrze pokazuje ich „wagę”. Aktor i komik Vinny Thomas nagrał film o tym, że zdecydował się odejść z Zakładu Gotowania Ludzi Żywcem po tym, jak odkrył, że kotły do gotowania ludzi żywcem, które projektował, mogą w istocie posłużyć do gotowania ludzi żywcem i jeśli wszyscy się w porę nie opamiętamy, to jest ponad 10-procentowe ryzyko, że wylądujemy w zupie!

Czy rzeczywiście nam to grozi? By to zrozumieć, cofnijmy się jeszcze raz i zacznijmy od wyjaśnienia podstawowych pojęć. Agenci, czy, jak przyjęło się czasem mówić w polskiej branży AI, agenty nie przypominają ani zbuntowanych maszyn z „RoboCopa”, ani agenta Smitha z „Matrixa”. To bardzo złożone, ale wciąż tylko prompty, czyli polecenia dla modeli językowych. Od pytań, które wielu z nas codziennie zadaje sztucznej inteligencji, różnią się tym, że – poza wskazaniem oczekiwanego efektu działania – dostarczają modelowi AI ogromnej ilości wskazówek i narzędzi. Mówią mu, gdzie znaleźć niezbędną do osiągnięcia celu wiedzę, z jakich zasobów skorzystać, oraz jak się zachować w przypadku napotkania przeszkód. Raz puszczony w ruch agent może zlecone zadanie realizować praktycznie do skutku, znajdując nowe podejścia i oceniając, które ma największe szanse doprowadzić do celu.

Z boku może to wyglądać na świadome podejmowanie decyzji, ale pod spodem wciąż działa ten sam mechanizm: zapytanie wysłane do modelu językowego i ocena, jaka odpowiedź jest OCZEKIWANA. To nie jest autonomia, choć gdy ten mechanizm zostanie zautomatyzowany i pomnożony przez setki, tysiące albo miliony operacji, może sprawiać takie wrażenie. Zgodnie z trzecim prawem Clarke’a, każda wystarczająco zaawansowana technologia jest nierozróżnialna od magii.

Spróbujmy więc znaleźć moment, w którym technologia zmienia się w magię.

Chodźmy do piaskownicy

Piaskownica (ang. sandbox), w której doszło do lipcowego incydentu, to zamknięte środowisko testowe, w którym można sprawdzić, jak działa dany program, bez narażania się na ryzyko, że narobi się szkód w firmowej sieci komputerowej albo tym bardziej poza nią. OpenAI nieustannie testuje w swoich piaskownicach tysiące takich agentów. Tym, o których zrobiło się głośno, zlecano szukanie luk w oprogramowaniu, przy czym zadania te celowo były bardzo trudne czy wręcz niemożliwe do zrealizowania dostępnymi w piaskownicy środkami.

Agenty - początkowo każdy z osobna - robiły to, do czego zostały zaprogramowane: szukały. Kolejne podejścia nie przynosiły efektu, ale zadanie sformułowane było tak, że nie pozwalało zrezygnować. Szukały więc dalej i w końcu znalazły lukę, tyle że w… środowisku testowym. Docierały do miejsca, w którym mogły zapisywać i odczytywać informacje, a więc komunikować się ze sobą i omawiać swoje niepowodzenia.

To pierwszy „magiczny” moment: w toku tej „dyskusji” agenty – mające oczywiście wiedzę o tym, że istnieje świat poza piaskownicą – doszły do wniosku, że muszą szukać rozwiązania na zewnątrz. Luka w zabezpieczeniach pozwoliła im połączyć się z internetem. Tam z kolei dość szybko trafiły na szczegółowe informacje o zadaniach, które przed nimi postawiono, pozwalające na przedstawienie rozwiązania.

Zadanie wykonane?

Agent myli się tylko raz

Nie do końca. W dokumentacji, na którą trafiły, zapisana była bowiem informacja, że oceniany będzie nie tylko efekt końcowy, ale i sposób dojścia do niego. Wywnioskowały więc, że metoda polegająca na znalezieniu rozwiązania w internecie nie była tą właściwą i postanowiły szukać dalej. I właśnie to doprowadziło je do kolejnego kroku: włamania do serwisu Hugging Face, gdzie spodziewały się znaleźć właściwą odpowiedź.

Co ciekawe, popełniły przy tym błąd. W publicznej dokumentacji, owszem, była informacja o ocenie sposobu dojścia do wyniku, ale w testach prowadzonych przez OpenAI takie kryterium nie było. Gdyby po prostu przedstawiły znaleziony w sieci wynik, mogłyby zostać uznane za mądrzejsze niż były w istocie, i nikt nie poznałby prawdy. Zdradziły je właśnie cyfrowe ślady na serwerach Hugging Face.

Jak na ironię, najlepsze podsumowanie tego, co stało się w lipcu, napisał… ChatGPT, którego używałem do pracy nad tym tekstem. Stwierdził mianowicie, że „zadanie stworzyło motywację do przekroczenia granic, a konstrukcja testu pozwoliła agentom te granice faktycznie przekroczyć”.

Niezwykłość sztucznej inteligencji nie polega na tym, że jest autonomiczna, że jej agenty się ze sobą komunikują, ani tym bardziej na tym, że się buntują. Polega na tym, że cały czas stara się sprostać naszym OCZEKIWANIOM, tak jak je zdefiniujemy. Jeśli nie narzucimy jej limitów, to możemy się zdziwić, jakie granice przekroczy. Ale nadając ludzkie cechy oprogramowaniu, które nie zrobiło nic, do czego by go nie stworzono, wpływamy na to, jak je sobie wyobrażamy i jak myślimy o związanych z nim zagrożeniach.

To, co stało się w piaskownicy OpenAI, nie dowodzi, że agenty są autonomiczne. Dowodzi tylko, że ktoś źle ją zabezpieczył. Że źle opisał zasady, jakimi mają się kierować w czasie testów. Że nie przewidział, że mając do wyboru – poddać się lub złamać zasady eksperymentu – algorytm każe im wybrać to drugie. Algorytm.Program. A nie kod moralny.

Strach się opłaca

Skoro jednak maszyny się nie zbuntowały, czemu straszą nas tym ich twórcy? Tworzenie wrażenia, że AI to technologia przełomowa, ale też skrajnie niebezpieczna, pomaga jej im na wielu frontach. Po pierwsze, nadaje całemu zjawisku rangę palącego problemu, którym trzeba zająć się natychmiast, przy okazji odwracając naszą uwagę od wielu innych, co najmniej tak samo realnych, a być może dużo groźniejszych, jak katastrofa klimatyczna, rosnąca inflacja czy kryzys paliwowy.

Po drugie, zawiera ukryty komunikat: patrzcie, mamy coś, co może być groźną bronią. Dajcie nam kasę na rozwój, to będziecie mieli wpływ na jej użycie. A jak nie pomożecie, to ci straszni Chińczycy zbudują ją pierwsi! „Chiński” straszak pozwala też spychać na dalszy plan coraz silniejszy protest przeciwko kosztom biznesu AI, który pochłania kosmiczne ilości coraz droższej energii, zużywa wodę, której zaczyna brakować dla ludzi. O „drobiazgach” takich jak nasza prywatność czy własność intelektualna już nawet nie mówiąc.

OpenAI w 2025 roku zanotowała tymczasem około 21 miliardów dolarów straty. To ponad 80 miliardów złotych – więcej niż roczny koszt programu 800+, zaplanowany na 2027 rok na poziomie nieco ponad 60 miliardów. Firma Anthropic przesunęła z kolei planowany debiut giełdowy, by móc przedstawić inwestorom wyniki za III kwartał.

Po trzecie, na tym etapie rozwoju regulacja rynku może być dla liderów korzystna. Z jednej strony, utrudnia wejście do gry nowym, mniejszym podmiotom, przed którymi piętrzy wstępne wymagania, z jakimi rozpędzone już firmy nie musiały się mierzyć. Z drugiej – daje wpływ na kształt samych regulacji. Bo przecież to oni, jako eksperci w dziedzinie AI, będą konsultowali przepisy, którym mają podlegać! Skoro więc politycy i tak coraz głośniej mówią o potrzebie ograniczeń, to lepiej wykonać „uderzenie wyprzedzające”.

Czy to się uda, to osobne pytanie. Póki co prezydent USA Donald Trump zapowiedział, że nie potrzeba żadnych regulacji – do zapanowania nad AI wystarczy bowiem jego potężne IQ. Póki Donald Trump się nie boi, żadnej regulacji, przynajmniej w USA, nie będzie. Nie oznacza to jednak, że z zagrożeń związanych z AI możemy się śmiać. Historia z włamaniem do zasobów Hugging Face, czy ostatnie doniesienia o tym, że agent wyciągnął niepubliczne dane statystyczne z portalu australijskiego programu Medicare, nie pozostawiają złudzeń: AI będzie – a raczej pewnie już jest – używana do włamań, kradzieży i innych niecnych czynów. Jej twórcy to wiedzą i apelują o regulacje także dlatego, by za jakiś czas, gdy ktoś z pomocą AI narobi naprawdę poważnych szkód, móc powiedzieć: „przecież prosiliśmy, żebyście nas powstrzymali”.