Firma konsultingowa Deloitte zwróci rządowi Australii część honorarium za opracowanie, w którym AI popełniła pomyłki, w tym sfabrykowane fragmenty z wyroków sądowych – ogłosiła we wtorek agencja AP. Zawierający nieścisłości dokument został opublikowany na witrynie internetowej ministerstwa pracy.
Deloitte poddał analizie swój 237-stronicowy dokument i „zaświadczył, że niektóre przypisy oraz cytowania były błędne” – zawiadomił resort pracy w wydanym we wtorek komunikacie. Raport skupiał się na kontroli zgodności ministerstwa z prawem.
Zapytana o komentarz w kwestii niedokładności w opracowaniu, firma oznajmiła w przesłanym AP oświadczeniu, że „kwestia została omówiona bezpośrednio z zamawiającym”. Nie ustosunkowała się do pytania, czy niedociągnięcia zostały wygenerowane przez sztuczną inteligencję.
Systemy AI mają skłonność do wytwarzania tzw. halucynacji, innymi słowy nieprawdziwych danych. W pierwszej odsłonie raportu występowało co najmniej 20 tego rodzaju usterek. Były to m.in. nieautentyczne cytaty z orzecznictw i publikacji ekspertów oraz odniesienia do nieistniejącej pozycji książkowej profesor prawa uniwersytetu w Sydney.
Z uaktualnionej wersji opracowania usunięto cytaty przypisywane sędziemu sądu federalnego, jak również nawiązania do nieistniejących dokumentów przypisywanych specjalistom prawa i inżynierii oprogramowania. Za to dodano informację, że do przygotowania raportu użyto generatywnego systemu językowego sztucznej inteligencji Azure OpenAI.
Na ślad halucynacji natrafił Chris Rudge, ekspert prawa związanego ze zdrowiem oraz opieką socjalną; to on też zawiadomił o incydencie media. – Doszczętnie zniekształcili orzeczenie sądowe, a następnie sfabrykowali cytat z wypowiedzi sędziego (…) wypaczającego prawo. Dlatego też uznałem, że istotne jest, aby stanąć w obronie zachowania należytej rzetelności – wyjaśnił AP Rudge.
Senator Barbara Pocock z Australijskiej Partii Zielonych wyraziła w rozmowie ze stacją ABC, że Deloitte „źle wykorzystał sztuczną inteligencję, i to w bardzo nieodpowiedni sposób”. Zauważyła, że za podobne wykroczenie „student pierwszego roku mógłby ponieść poważne konsekwencje”.(PAP)
os/ akl/
