Firma konsultingowa Deloitte zwróci rządowi australijskiemu część należności za opracowanie, które zawierało pomyłki wywołane przez AI, w tym sfabrykowane fragmenty z wyroków sądowych – podała we wtorek agencja prasowa AP. Zawierające nieścisłości opracowanie zostało opublikowane na stronie internetowej ministerstwa zatrudnienia.
Deloitte przeanalizował swój 237-stronicowy dokument i „potwierdził, że niektóre przypisy i odwołania były błędne” – przekazał resort pracy w oświadczeniu we wtorek. Raport dotyczył kontroli zgodności z prawem prowadzonej przez ministerstwo.
Zapytana o komentarz w sprawie nieścisłości w dokumencie, firma oznajmiła w oświadczeniu przekazanym AP, że „kwestia została wyjaśniona bezpośrednio z klientem”. Nie odpowiedziała na pytanie, czy niedociągnięcia zostały wygenerowane przez sztuczną inteligencję.
Systemy AI mają skłonność do generowania tzw. halucynacji, to znaczy fałszywych danych. W pierwotnej wersji raportu występowało przynajmniej 20 tego rodzaju błędów. Były to m.in. nieprawdziwe cytaty z decyzji oraz artykułów ekspertów, jak również odniesienia do nieistniejącej publikacji profesor prawa z uniwersytetu w Sydney.
Z poprawionej wersji opracowania usunięto cytaty przypisywane sędziemu sądu federalnego, a także wzmianki o nieistniejących sprawozdaniach przypisywanych specjalistom od prawa i inżynierii oprogramowania. Dodano jednak informację, że do stworzenia raportu wykorzystano generatywny system językowy sztucznej inteligencji Azure OpenAI.
Na ślad halucynacji natrafił Chris Rudge, ekspert prawa związanego ze zdrowiem i opieką socjalną; on też poinformował o sprawie media. – Totalnie przekręcili orzeczenie sądowe, a następnie wymyślili cytat z wypowiedzi sędziego (…) przeinaczającego prawo. Dlatego uznałem, że istotne jest, by stanąć w obronie należytej sumienności – oznajmił AP Rudge.
Senator Barbara Pocock z Australijskiej Partii Zielonych stwierdziła w rozmowie ze stacją ABC, że Deloitte „źle wykorzystał sztuczną inteligencję i to w bardzo niewłaściwy sposób”. Zauważyła, że za analogiczne wykroczenie „student pierwszego roku mógłby mieć poważne reperkusje”.(PAP)
os/ akl/
