Firma konsultingowa Deloitte zwróci australijskiemu rządowi część wynagrodzenia za opracowanie, w którym algorytmy AI popełniły pomyłki, w tym zmyślone fragmenty z decyzji sądowych – podała we wtorek agencja prasowa AP. Zawierający nieścisłości raport był dostępny na stronie internetowej ministerstwa pracy.
Deloitte przeanalizował swój raport liczący 237 stron i „potwierdził, że niektóre przypisy oraz źródła były niepoprawne” – ogłosił resort pracy w oświadczeniu opublikowanym we wtorek. Raport dotyczył kontroli przestrzegania przepisów prawnych przez ministerstwo.
Zapytana o komentarz dotyczący nieścisłości w dokumencie, firma oznajmiła w przesłanym agencji AP oświadczeniu, że „sprawa została rozstrzygnięta bezpośrednio z klientem”. Nie dała odpowiedzi na pytanie, czy błędy były wynikiem działania sztucznej inteligencji.
Systemy AI mają tendencję do generowania tzw. halucynacji, czyli nieprawdziwych danych. W pierwszej wersji raportu istniało co najmniej 20 tego typu błędów. Były to m.in. nieprawdziwe cytaty z wyroków i artykułów ekspertów oraz odniesienia do nieistniejącej publikacji profesorki prawa uniwersytetu w Sydney.
Z poprawionej wersji raportu usunięto cytaty przypisywane sędziemu sądu federalnego, jak również wzmianki o nieistniejących opracowaniach przypisywanych specjalistom z dziedziny prawa i inżynierii oprogramowania. Dodano natomiast informację, że do opracowania raportu użyto generatywnego systemu językowego sztucznej inteligencji Azure OpenAI.
Na ślad halucynacji natrafił Chris Rudge, ekspert w dziedzinie prawa związanego ze zdrowiem i opieką społeczną; to on również poinformował o sprawie media. – Całkowicie zniekształcili orzeczenie sądowe, a następnie wymyślili cytat z wypowiedzi sędziego (…) przeinaczającego prawo. Dlatego uznałem, że istotne jest, by stanąć w obronie rzetelności – powiedział Rudge agencji AP.
Senatorka Barbara Pocock z Australijskiej Partii Zielonych powiedziała w rozmowie ze stacją ABC, że Deloitte „wykorzystał sztuczną inteligencję w sposób wysoce naganny”. Zwróciła uwagę, że za podobne wykroczenie „student pierwszego roku mógłby ponieść poważne konsekwencje”.(PAP)
os/ akl/
