Liz Bonnin jest znaną dziennikarką specjalizującą się w ukazywaniu środowiska naturalnego i dzikich zwierząt. Nieświadomie zareklamowała spray na owady
Piotr Mazurkiewicz
Liz Bonnin oszuści wzięli na celownik nieprzypadkowo. Dziennikarka jest znana, pracuje w renomowanej stacji i zajmuje się przyrodą. Jej wizerunek i głos zostały przetworzone przez sztuczną inteligencję. W efekcie powstała reklama środka odstraszającego owady. Znajomi poinformowali dziennikarkę o sytuacji, ponieważ dziwnie brzmiał zwłaszcza jej akcent. – To rzeczywiście wydaje się naruszeniem prawa i nie jest przyjemne – stwierdziła w rozmowie z „The Guardian” Liz Bonnin. – Dzięki Bogu, że to był tylko spray odstraszający owady i nie „reklamowałam” czegoś naprawdę okropnego — dodała.
Sprawa trafiła do kierownictwa BBC, gdy reklama w internecie pojawiła się na masową skalę. Na tym dziwne okoliczności się nie kończą, ponieważ firma zlecająca reklamę twierdzi, że dostała zgodę prezenterki, choć tryb pozyskania był bardzo dziwny sposób.
Spreparowane wiadomości i deepfake
Howard Carter, dyrektor naczelny Incognito, firmy stojącej za kampanią reklamową, twierdzi, że otrzymał szereg wiadomości głosowych od osoby, którą uważał za Bonnin. Już wcześniej zabiegał o jej udział w reklamie, ale bezskutecznie. Potem jednak dostał wiadomość z profilu na Facebooku, który ktoś prowadził pod nazwiskiem Bonnin. Teraz szef spółki twierdzi, że wiadomości wymieniane między nimi doprowadziły go do przekonania, że ma do czynienia z prawdziwą Bonnin i to prawdziwa okazja, mimo że wspomniany profil wydał mu się trochę podejrzany.
Osoba przyjmująca tożsamość Bonnin podała Carterowi numer telefonu i adres e-mail. Przekazano mu także dane kontaktowe osoby podającej się za członka Wildlife Trusts, organizacji charytatywnej, której Bonnin jest prezesem. Umowę na udział w reklamie negocjowano za pośrednictwem WhatsAppa i e-maili. Twierdzi również, że przynajmniej raz rozmawiał przez telefon z jednym z oszustów podszywających się pod Bonnin.
Umowa została podpisana elektronicznie, w marcu firma przesłała 20 tys. funtów na konto powiązane z bankiem cyfrowym. Zdjęcia Bonnin do wykorzystania w kampanii wysłano pięć dni później. Kolejne e-maile wysyłane przez agencję Incognito pozostały bez odpowiedzi. Kampania ruszyła niedawno, wykorzystując materiał przesłany przez oszustów. Wkrótce dziennikarka napisała w serwisie X, że nie zgodziła się na udział w reklamie.
Osoba podszywająca się pod Bonnin wysłała za to do Cartera SMS-a z przeprosinami i stwierdziła, że nie radzi sobie z mediami społecznościowymi, a także powołała się na problemy z serwerem i bezpieczeństwem. W tym momencie prezes Carter zorientował się, że także on został oszukany. – Bardzo mi przykro z powodu tego, przez co przeszła firma. To wcale nie jest zabawne. To także nauczka, że jeśli coś wygląda zbyt dobrze, aby mogło być prawdziwe i jest zbyt łatwe, sprawdź potrójnie lub poczwórnie – mówi sama Bonnin.
Sztuczny głos od sztucznej inteligencji nie wzbudził czujności
W wiadomości głosowej usłyszanej przez dziennikarzy „Guardiana” wygenerowany przez sztuczną inteligencję Bonnin wypowiada kilka wymyślonych zwrotów, dość sztucznym głosem. Surya Koppisettin ze start-upu Reality Defender zajmującego się wykrywaniem fałszerstw obrazu, powiedziała, że wciąż widać luki i problemy z szybkością recytacji, które są spójne z mową generowaną przez sztuczną inteligencję. Dialogi są także nierówne pod względem akcentu, a wymowa niezwykle wyraźna pomimo hałasu wokół, co budzi wątpliwości.
Bonnin dodaje, że incydent to wiadomość ostrzegawcza dotycząca potencjalnych pułapek związanych ze sztuczną inteligencją. – Istnieje wiele sposobów wykorzystania jej z korzyścią dla społeczeństwa. Technologia będzie coraz lepsza i bardziej wyrafinowana – dodała dziennikarka.
Spółka Incognito zgłosiła incydent policji i swojemu bankowi.
