Firma konsultingowa Deloitte zwróci australijskiemu rządowi część należności za opracowanie, które zawierało pomyłki stworzone przez AI, w tym wymyślone fragmenty z decyzji sądowych – podała we wtorek agencja prasowa AP. Raport zawierający nieścisłości został opublikowany na stronie ministerstwa zatrudnienia.
Deloitte sprawdził swój 237-stronicowy dokument i „potwierdził, że niektóre dopiski i nawiązania były niepoprawne” – zakomunikował resort pracy w środowym komunikacie. Opracowanie dotyczyło kontroli przestrzegania prawa przez ministerstwo.
Zapytana o opinię na temat niezgodności w tekście, firma oświadczyła w piśmie przekazanym AP, że „sprawa została załatwiona bezpośrednio z odbiorcą”. Nie dała odpowiedzi na pytanie, czy niedociągnięcia zostały utworzone przez sztuczną inteligencję.
Systemy AI mają skłonność do generowania tzw. halucynacji, inaczej mówiąc, nieprawdziwych danych. W oryginalnym wariancie raportu znajdowało się co najmniej 20 tego typu błędów. Były to przykładowo nieautentyczne wycinki z postanowień i publikacji ekspertów oraz wzmianki o nieistniejącej książce profesor prawa uniwersytetu w Sydney.
Ze skorygowanej wersji raportu wymazano cytaty przypisywane sędziemu sądu federalnego, jak również odwołania do nieistniejących sprawozdań przypisywanych specjalistom prawa oraz inżynierii oprogramowania. Dodano za to informację, że do utworzenia opracowania zastosowano generatywny system językowy sztucznej inteligencji Azure OpenAI.
Na ślad halucynacji natrafił Chris Rudge, specjalista prawa dotyczącego zdrowia i opieki społecznej; on także poinformował o incydencie media. – Kompletnie zmienili sens orzeczenia, a następnie wymyślili cytat z komunikatu sędziego (…) przeinaczającego prawo. Z tego powodu uważałem, że istotne jest, aby stanąć w obronie odpowiedniej rzetelności – powiedział AP Rudge.
Senator Barbara Pocock z Australijskiej Partii Zielonych oznajmiła w wywiadzie dla stacji ABC, że Deloitte „niewłaściwie wykorzystał sztuczną inteligencję, i to w sposób szczególnie niestosowny”. Zaznaczyła, że za podobne wykroczenie „student pierwszego roku mógłby mieć poważne problemy”.(PAP)
os/ akl/
