Wykorzystali AI i stracili kontrakt. Pierwszy taki wyrok w Polsce
Exdrog przekonało się o tym, że wykorzystanie sztucznej inteligencji nie zawsze jest słuszne. Firma złożyła dokumenty do przetargu, w którym część argumentów wygenerowała AI. Propozycja została podważona i skończyło się wykluczeniem Exdrog z dalszego postępowania przetargowego.
Sztuczna inteligencja ma coraz więcej zastosowań i jest wykorzystywana przez różnych specjalistów. Co nie zmienia faktu, że AI nie należy bezgranicznie ufać. Przekonała się o tym firma Exdrog, która w ten sposób straciła kontrakt na utrzymanie dróg w Małopolsce, o czym raportuje poniedziałkowy "Puls Biznesu".
Firma Exdrog wystartowała do przetargu używając AI i straciła kontrakt
Wspomniany przetarg został ogłoszony przez Zarząd Dróg Wojewódzkich w Krakowie. Przystąpiła do niego m.in. firma Exdrog, której oferta początkowo wydawała się najatrakcyjniejsza. Było więc blisko podpisania umowy na wykonanie zleconych prac.
Problem jednak w tym, że oferta opiewała na kwotę 15,5 mln złotych. Do przetargu wystartowała również konkurencyjna firma Mika, której propozycja była droższa. Sprawę postanowiono zbadać i doszukano się nieprawidłowości.
Okazało się, że firma Exdrog w trakcie tworzenia własnej oferty posiłkowała się sztuczną inteligencją. To narzędzia AI doprowadziły do stworzenia bardzo konkurencyjnej propozycji. Problem jednak w tym, że część argumentów nie miało pokrycia z rzeczywistością.
Wykonawca powoływał się na nieistniejące, nigdy niewydane interpretacje podatkowe, które rzekomo dotyczyły podobnych spraw. Udowodniliśmy, że były to halucynacje sztucznej inteligencji
Brak weryfikacji informacji od sztucznej inteligencji i wprowadzanie w błąd
Sprawa skończyła się odwołaniem oferty złożonej przez firmę Exdrog. Krajowa Izba Odwoławcza postanowiła wykluczyć ją z dalszego postępowania przetargowego. Decyzję uzasadniono m.in. w taki sposób, że nie dokonano weryfikacji informacji dostarczonych przez sztuczną inteligencję, co ostatecznie doprowadziło do wprowadzenia zamawiającego w błąd.
Decyzja jest kluczowa i jest to jedno z pierwszych tego typu orzeczeń w Polsce, gdzie zarzuca się wykorzystanie sztucznej inteligencji bez dokładnego sprawdzenia informacji. Pamiętajmy, że odpowiedzialność zawsze leży po stronie dostawcy dokumentów i nie można tego zrzucać na błędy powstałe z użyciem AI.
