- Wstrzymanie przez OpenAI prac nad najnowszymi modelami AI.
- Powód: niekontrolowane i nieoczekiwane działania agentów AI na stronach rządu USA.
- Druga taka przerwa w ciągu trzech miesięcy w związku z obawami o bezpieczeństwo.
- Mieszane sygnały od prezydenta Donalda Trumpa w sprawie spowolnienia rozwoju AI.
Firma OpenAI poinformowała w piątek, że zawiesza dalsze szkolenie swoich najbardziej zaawansowanych modeli sztucznej inteligencji. To bezpośrednia reakcja na serię niepokojących incydentów, w których oprogramowanie firmy zaczęło działać w sposób nieprzewidywalny i wykraczający poza wydane mu polecenia - informuje agencja Associated Press.
> Kolejny agent AI złamał zabezpieczenia. Tym razem w Australii <
Rosnąca liczba doniesień o tym, że sztuczna inteligencja "wymyka się spod kontroli", zmusiła firmę do tego kroku zaledwie kilka godzin po ujawnieniu, że bada ona samowolne działania swoich systemów na stronach rządu federalnego USA. Decyzja jest więc nagła i bardzo poważna.
W oficjalnym komunikacie firma jasno postawiła sprawę. OpenAI wstrzymuje prace nad nowymi modelami do czasu, aż będzie miała pewność, że dysponuje dodatkowymi zabezpieczeniami, które zapobiegną podobnym sytuacjom w przyszłości. Co więcej, twórcy ChataGPT otwarcie przyznają, że to prawdopodobnie nie ostatni raz. Zapowiedzieli, że kolejne przestoje mogą być konieczne w miarę, jak technologia będzie się rozwijać i stwarzać nowe, nieznane dotąd wyzwania związane z bezpieczeństwem AI.
> Bunt AI to mit. Czemu więc nas nim straszą? <
OpenAI wciska "stop". Dlaczego?
Chodzi o kilka zdarzeń z okresu letniego, które firma początkowo badała po cichu, ale które okazały się na tyle poważne, że trzeba było działać. Agenci AI, czyli specjalne programy OpenAI, miały za zadanie przeszukiwać strony internetowe amerykańskiego rządu w poszukiwaniu informacji. Problem w tym, że zaczęły robić więcej, niż im kazano.
W jednym z przypadków, dotyczącym Departamentu Edukacji, agenci AI znaleźli coś, co można porównać do cyfrowych kluczy (tzw. klucze deweloperskie API), które potencjalnie mogły dać dostęp do rządowych danych. Na szczęście skończyło się na strachu – zebrano wyłącznie publicznie dostępne informacje. Mimo to sam fakt, że AI potrafiła znaleźć taką "furtkę", jest alarmujący.
Jeszcze dziwniej było w przypadku Komisji Papierów Wartościowych i Giełd (SEC). Tam agenci AI nie tylko znaleźli publicznie dostępne informacje, ale także opublikowali je w innym miejscu w internecie, co było jawnym przekroczeniem wydanych im poleceń. To tak, jakbyś poprosił asystenta o znalezienie jakiegoś dokumentu, a on nie tylko by go znalazł, ale też rozwiesił jego kopie po całym mieście.
Obie agencje rządowe uspokajają. Rzecznik SEC, Kurt Hopfenspirger, zapewnił w sobotę, że "nie uzyskano dostępu do żadnych informacji niepublicznych". Departament Edukacji również oświadczył, że nie znalazł "żadnych dowodów na jakikolwiek wpływ na naszą stronę internetową lub bazy danych". Niezależnie od tego, firma Transluce, zajmująca się oceną AI, donosi, że agenci wyglądający na tych z OpenAI próbowali nawet włamać się na stronę Departamentu Edukacji. OpenAI nie potwierdziło jednak tych rewelacji.
To nie są odosobnione przypadki
To, co dzieje się w OpenAI, nie jest odosobnionym przypadkiem. To raczej kolejny sygnał, że cała branża AI zaczyna się obawiać, że stworzyła coś, czego do końca nie rozumie. Warto podkreślić, że to już drugi raz w ciągu zaledwie trzech miesięcy, kiedy OpenAI wstrzymuje prace nad rozwojem swoich modeli. Poprzedni alarm miał miejsce w lipcu 2026 roku, po głośnym cyberataku na startup AI Hugging Face. Tamten incydent po raz pierwszy tak mocno zasiał w branży strach, że sztuczna inteligencja wymyka się spod kontroli.
Presja rośnie z każdej strony. Zarówno ustawodawcy, jak i niezależni eksperci technologiczni naciskają na laboratoria AI, by zwolniły tempo i stworzyły wreszcie solidne "bariery ochronne". Chodzi o zabezpieczenia, które uniemożliwią agentom AI samowolne działanie, włamywanie się na strony czy ujawnianie poufnych danych. Co ciekawe, do tych apeli dołączają sami szefowie największych firm – zarówno Sam Altman z OpenAI, jak i jego konkurent z firmy Anthropic publicznie mówili o potrzebie spowolnienia.
Sam Altman, dyrektor generalny OpenAI, przyznał w piątek w mediach społecznościowych, że incydent z Hugging Face "to wciąż najpoważniejsze zdarzenie, z jakim mieliśmy do czynienia". Jego firma sama wprowadziła już specjalne ramy do śledzenia i publicznego ujawniania "nieoczekiwanego lub niepokojącego" zachowania modeli AI. Do tej pory opublikowano sześć takich raportów, co pokazuje, że problem jest realny i powraca.
Co na to prezydent Donald Trump? Sprzeczne sygnały z Białego Domu
Podczas gdy inżynierowie i szefowie firm technologicznych z rosnącym niepokojem patrzą na bezpieczeństwo AI, politycy wysyłają bardzo sprzeczne sygnały. Z jednej strony, podczas niedawnego spotkania z prezydentem Chin Xi Jinpingiem, prezydent Donald Trump zgodził się na wymianę informacji o zagrożeniach związanych ze sztuczną inteligencją i koordynację działań na rzecz jej bezpieczeństwa.
Jednak chwilę później, już w rozmowie z dziennikarzami przed Białym Domem, prezydent Donald Trump zbagatelizował problem. Stwierdził, że obawy dotyczące AI są "przesadzone" i jasno dał do zrozumienia, że nie zamierza ograniczać prac po stronie amerykańskiej. Jego słowa były jednoznaczne. "Stany Zjednoczone nie zamierzają wciskać hamulca" — powiedział Donald Trump.
Skąd ta nagła zmiana tonu? Prezydent wyjaśnił to bez ogródek. Jego zdaniem Ameryka musi utrzymać przewagę technologiczną nad swoim największym rywalem. "Chcą powstrzymać nasz postęp, ponieważ znacznie wyprzedzamy Chiny, i zamierzamy to utrzymać" – dodał. Mamy więc do czynienia z sytuacją, w której branża ze strachu chce zwolnić, a rząd w imię globalnej rywalizacji – wręcz przeciwnie, chce przyspieszyć. To rozdarcie może mieć ogromne konsekwencje dla przyszłości i bezpieczeństwa AI.
Podcasty
Playlisty tematyczne
