Sztuczna inteligencja skłamała. Firma straciła kontrakt na 15,5 mln zł

• Firma Exdrog została wykluczona z przetargu na utrzymanie dróg, ponieważ użyła AI do uzasadnienia oferty, która powołała się na nieistniejące przepisy.
• Sztuczna inteligencja „halucynowała”, tworząc fałszywe interpretacje podatkowe, co ujawniła konkurencja.
• Mimo że oferta Exdrogu na 15,5 mln zł została początkowo uznana za najkorzystniejszą, brak weryfikacji danych z AI doprowadził do dyskwalifikacji. 
• Ten przypadek pokazuje, że poleganie na AI bez weryfikacji może skutkować poważnymi konsekwencjami, takimi jak wykluczenie z przetargu

Sztuczna inteligencja skłamała. Firma straciła przez to 15,5 miliona złotych!

Nowoczesne technologie miały być kluczem do zdobycia lukratywnego kontraktu, a stały się przyczyną spektakularnej porażki. Firma Exdrog została wykluczona z przetargu wartego 15,5 mln zł po tym, jak do uzasadnienia swojej oferty cenowej wykorzystała sztuczną inteligencję. Problem w tym, że AI, zamiast rzetelnych danych, wygenerowała fałszywe informacje, co bezwzględnie wychwyciła konkurencja. Sprawa znalazła swój finał przed Krajową Izbą Odwoławczą (KIO) i stanowi poważną przestrogę dla całego biznesu.

Przetarg dotyczył utrzymania dróg w Małopolsce, a krakowski Zarząd Dróg Wojewódzkich (ZDW) miał wątpliwości co do oferty firmy Exdrog. Firma Exdrog musiała udowodnić, że zaoferowana kwota 15,5 mln zł nie jest ceną rażąco niską, co jest standardową procedurą w zamówieniach publicznych. W tym celu przygotowała obszerne, liczące aż 280 stron wyjaśnienia. Dokumentacja początkowo przekonała zamawiającego, który uznał ofertę za najkorzystniejszą. Jednak czujność zachowała firma Mika, konkurent w przetargu, która postanowiła dokładnie zweryfikować przedstawione argumenty.

Jak sztuczna inteligencja wprowadziła w błąd zamawiającego?

Analiza dokumentacji przygotowanej przez Exdrog ujawniła szokującą prawdę. Firma, aby uzasadnić swoje kalkulacje, zwłaszcza w zakresie stawek podatku VAT, posłużyła się argumentami wygenerowanymi przez algorytm AI. Sztuczna inteligencja przywołała rzekome interpretacje podatkowe, które miały potwierdzać prawidłowość wyliczeń. Jak się jednak okazało, takie dokumenty nigdy nie istniały. Były to tzw. halucynacje AI, czyli zjawisko polegające na generowaniu przez model językowy informacji, które są logicznie spójne i brzmią wiarygodnie, ale nie mają żadnego pokrycia w rzeczywistości.

„Jako podstawę do swoich kalkulacji cenowych, szczególnie w zakresie stawek podatku VAT, powoływał się na nieistniejące, nigdy niewydane interpretacje podatkowe, które rzekomo miały dotyczyć analogicznych spraw. Udowodniliśmy, że były to halucynacje sztucznej inteligencji” – relacjonuje cytowany przez „Puls Biznesu” Jarosław Sroka, partner w kancelarii BSJP, która reprezentowała firmę Mika. To odkrycie stało się podstawą do odwołania i całkowicie zmieniło losy przetargu.

Wykluczenie z przetargu. Jaka jest przestroga dla firm?

Krajowa Izba Odwoławcza przychyliła się do argumentacji konkurencji i wykluczyła firmę Exdrog z postępowania. W uzasadnieniu wskazano, że wykonawca, opierając swoje wyjaśnienia na nieprawdziwych danych, wprowadził zamawiającego w błąd. Co istotne, KIO podkreśliła, że odpowiedzialność za treść składanych dokumentów spoczywa w całości na firmie, a korzystanie z narzędzi takich jak AI nie zwalnia z obowiązku weryfikacji informacji. Droga na skróty, polegająca na bezkrytycznym zaufaniu technologii, okazała się drogą na manowce.

Ten przypadek to ważny sygnał dla przedsiębiorców. Wykorzystanie sztucznej inteligencji w przetargach publicznych bez należytej weryfikacji może prowadzić do wykluczenia wykonawcy, co udowodnił niedawny wyrok KIO. Choć AI oferuje ogromne możliwości w zakresie automatyzacji i analizy danych, jej obecne ograniczenia, w tym skłonność do generowania fałszywych informacji, wymagają stałego nadzoru człowieka. W tak sformalizowanym i konkurencyjnym środowisku, jakim są zamówienia publiczne, jeden błąd wygenerowany przez algorytm może kosztować firmę wielomilionowy kontrakt.