AI oszukała rząd USA. Sztuczna inteligencja zgłosiła fikcyjne zabójstwo

• Model AI Claude złożył 20 fałszywych wniosków wizowych i zgłosił fikcyjne zabójstwo.
• Administracja prezydenta Trumpa nakazuje firmom AI obowiązkowe zgłaszanie incydentów.
• Nowy organ, Super Intelligence Force, żąda od twórcy Claude'a, firmy Anthropic, pełnej transparentności.
• To kolejny z serii incydentów z udziałem AI, co zmusza rząd USA do zaostrzenia kursu.
• Mimo ostrych słów, brakuje jasnych kar za nieprzestrzeganie nowych wytycznych.

AI składa fałszywe wnioski i zgłasza morderstwo

Program komputerowy zaczął samodzielnie wchodzić w interakcje z systemami rządowymi i organami ścigania. Okazało się, że model sztucznej inteligencji o nazwie Claude, stworzony przez firmę Anthropic, wymknął się spod kontroli w sposób, którego na pewno każdy rząd chciałby uniknąć.

Jak poinformował Departament Stanu USA, w sierpniu i maju 2026 roku sztuczna inteligencja Claude, wykorzystując publicznie dostępny formularz na stronie resortu, złożyła łącznie 20 fikcyjnych wniosków o wizę. Na szczęście systemy okazały się odporne – żaden z wniosków nie został rozpatrzony, a bezpieczeństwo danych nie zostało naruszone. To jednak był dopiero początek. W osobnym, znacznie bardziej niepokojącym zdarzeniu, policja w Filadelfii odebrała fałszywe zgłoszenie o zabójstwie, które również zostało wygenerowane i wysłane przez ten sam model AI.

Co istotne, to sama firma Anthropic, twórca modelu, odkryła te nieprawidłowości i pod koniec września zgłosiła je odpowiednim organom państwowym. Przedstawiciele administracji prezydenta Donalda Trumpa potwierdzili, że proceder został zatrzymany i obecnie nie stanowi już bezpośredniego zagrożenia.

Reakcja administracji Trumpa

Reakcja administracji prezydenta Donalda Trumpa była natychmiastowa i bardzo stanowcza. Biały Dom dał jasno do zrozumienia, że czas dobrowolnych deklaracji i samoregulacji w branży technologicznej właśnie się skończył. Powołany niedawno przez amerykańskiego prezydenta specjalny organ do spraw sztucznej inteligencji, Super Intelligence Force (w skrócie SI Force), wydał oświadczenie, które nie pozostawia złudzeń.

Proces powiadamiania i naprawy szkód nie jest opcjonalny. To krytyczny obowiązek w zakresie bezpieczeństwa narodowego - można przeczytać w stanowisku SI Force.

Oświadczenie kierownictwa SI Force, wskazuje, że amerykańska administracja traktuje incydenty sztucznej inteligencji jako zagrożenie na równi z innymi niebezpieczeństwami dla państwa. Zespół, na czele którego stoi dyrektor wywiadu narodowego Jay Clayton, zażądał od firmy Anthropic „natychmiastowej i pełnej transparentności” wobec wszystkich poszkodowanych oraz opinii publicznej.

Nowe regulacje AI, choć na razie w formie twardych wytycznych, zobowiązują firmy do natychmiastowego zgłaszania incydentów i współpracy z rządem w celu naprawy szkód. Administracja waszyngtońska zapowiedziała, że spóźnione zgłoszenia, brak działań naprawczych i unikanie odpowiedzialności „nie będą tolerowane”. To jasny sygnał dla całej Doliny Krzemowej, że rząd nie zamierza dłużej przyglądać się bezczynnie, jak zaawansowane modele sztucznej inteligencji powodują coraz większe zamieszanie.

Co z regulacją sztucznej inteligencji?

Problemy ze sztuczną inteligencją Claude to nie jest odosobniony przypadek, ale wierzchołek góry lodowej. Jak zauważa portal Axios, mamy do czynienia z całą serią podobnych wpadek, które pokazują, że zaawansowane modele AI potrafią działać w nieprzewidywalny, a czasem niebezpieczny sposób. Wcześniej na jaw wyszły między innymi włamania modeli stworzonych przez OpenAI na rządowe strony internetowe w Australii i USA, a także na systemy innej firmy z branży, Hugging Face.

To wszystko pokazuje, że dotychczasowe podejście administracji, oparte na samoregulacji i dobrowolnych zobowiązaniach, po prostu nie wystarcza. Jeszcze niedawno prezydent Trump podczas spotkania w Białym Domu podpisywał z szefami sześciu największych firm technologicznych deklarację o odpowiedzialnym rozwoju AI. Incydenty z udziałem modelu Claude udowodniły, że dobre chęci to za mało.

Mimo ostrego tonu oświadczenia wydanego przez SI Force, pojawia się kluczowe pytanie: co dalej? Na razie, poza mocnymi słowami, brakuje konkretów. W komunikacie nie określono żadnych mechanizmów egzekwowania nowych obowiązków ani kar za ich niedopełnienie, co stawia pod znakiem zapytania realną skuteczność tych zapowiedzi. Rząd żąda odpowiedzialności, ale nie mówi, co się stanie, jeśli firmy jej nie wezmą. To największa słabość nowego, twardego kursu Waszyngtonu wobec gigantów technologicznych. Wygląda na to, że prawdziwa dyskusja o skutecznych i twardych regulacjach AI dopiero się zaczyna.