- Model AI Anthropic o nazwie Mythos wykrył krytyczne luki w tajnych systemach rządu USA w ciągu zaledwie kilku godzin, a nie tygodni, podczas testów.
- Fakt ten, potwierdzony przez senatora Marka Warnera, uwypukla ogromny potencjał sztucznej inteligencji w identyfikowaniu zagrożeń cybernetycznych.
- Mimo skuteczności AI, rząd USA wprowadził dyrektywy ograniczające dostęp do modeli Anthropic (Fable 5, Mythos 5) z obaw o bezpieczeństwo narodowe, co budzi napięcia z firmą.
- Ponad 100 ekspertów branżowych sprzeciwia się tym ograniczeniom, ostrzegając, że mogą one osłabić obronę USA i przynieść korzyści przeciwnikom.
Szokujący test AI: Jak model Mythos od Anthropic obnażył słabość rządowych zabezpieczeń
Wyobraźcie sobie scenę jak z filmu sensacyjnego. Supernowoczesna sztuczna inteligencja dostaje zadanie: znajdź słabe punkty w najlepiej strzeżonych systemach komputerowych na świecie. To, co analitykom i hakerom zajęłoby tygodnie, a może i miesiące, maszynie udaje się zrobić w ciągu jednego dnia roboczego. To nie scenariusz filmowy, a rzeczywistość, która właśnie rozegrała się w Stanach Zjednoczonych.
Jak poinformowała agencja Associated Press, powołując się na anonimowego urzędnika, firma Anthropic przeprowadziła testy swojego zaawansowanego modelu AI. To, co zajęłoby analitykom tygodnie, sztuczna inteligencja Mythos od Anthropic zrobiła w zaledwie kilka godzin, wykrywając luki w tajnych systemach rządu USA. Warto podkreślić, że model wykrył podatności, co nie jest jednoznaczne z tym, że był w stanie je od razu wykorzystać do ataku. Niemniej, szybkość jego działania wywołała alarm.
Informacje o teście potwierdził demokratyczny senator z Wirginii, Mark Warner. Podczas przesłuchania przed senacką komisją powołał się na słowa szefa Agencji Bezpieczeństwa Narodowego (NSA) i Cyberdowództwa USA, generała Joshuy Rudda.
– To narzędzie włamało się do niemal wszystkich naszych systemów niejawnych, nie w ciągu tygodni, ale godzin – powiedział senator Mark Warner.
Testy odbyły się w ramach inicjatywy Project Glasswing, która ma na celu zabezpieczenie kluczowego oprogramowania przed zagrożeniami, jakie niosą ze sobą potężne systemy AI.
Polecany artykuł:
Reakcja administracji prezydenta Donalda Trumpa i kontrowersyjna dyrektywa
Wyniki testów wywołały natychmiastową i stanowczą reakcję rządu. Choć współpraca między Anthropic a agencjami wywiadowczymi układała się dobrze, administracja postanowiła dmuchać na zimne. I to bardzo.
W odpowiedzi na testy, administracja prezydenta Donalda Trumpa wydała dyrektywę, która zobowiązuje Anthropic do uniemożliwienia cudzoziemcom korzystania z jej najnowszych modeli AI, znanych jako Fable 5 i Mythos 5. Dyrektywa pojawiła się zaledwie 10 dni po tym, jak prezydent Donald Trump podpisał dekret tworzący ramy prawne dla oceny ryzyka związanego z najbardziej zaawansowanymi systemami sztucznej inteligencji.
Firma Anthropic, choć publicznie wyrażała obawy co do militarnego wykorzystania jej technologii, uznała działania rządu za nieuzasadnione w stosunku do skali zagrożenia. Mimo to, zastosowała się do dyrektywy i wyłączyła dostęp do wspomnianych modeli wszystkim klientom, których nowe przepisy objęły.
Polecany artykuł:
Branża technologiczna protestuje. "To więcej szkody niż pożytku"
Decyzja rządu wywołała prawdziwą burzę w Dolinie Krzemowej. Ponad 100 czołowych ekspertów ds. cyberbezpieczeństwa oraz menedżerów z takich gigantów jak Adobe i Nvidia, wystosowało do rządu list otwarty. Apelują w nim o uchylenie dyrektywy, ostrzegając, że może ona przynieść więcej szkody niż pożytku.
Sygnatariusze listu przyznają, że model AI Mythos faktycznie jest "całkiem dobry" w wykrywaniu błędów w oprogramowaniu, ale jednocześnie podkreślają, że "nie jest w tych zadaniach wyjątkowy". Wielu z nich regularnie używa innych, także otwartych modeli AI do audytów bezpieczeństwa.
Główny argument ekspertów jest prosty: blokowanie dostępu do tak potężnych narzędzi defensywnych to strzał w kolano. Ich zdaniem, w czasie gdy przeciwnicy USA, tacy jak Chiny czy Rosja, dynamicznie rozwijają własne zdolności w zakresie AI, dobrowolne osłabianie własnego potencjału obronnego jest nierozsądne. Eksperci ostrzegają, że ograniczanie dostępu do najlepszych narzędzi obronnych "bez dobrego powodu", w czasie gdy przeciwnicy USA szybko rozwijają swoje możliwości, to działanie na własną szkodę. Spór ten doskonale pokazuje, jak trudne jest znalezienie równowagi między wykorzystaniem potencjału AI a kontrolowaniem związanego z nią ryzyka.
Źródło: pl.euronews.com
10
Podcasty
Playlisty tematyczne
