Chatbot Grok obwieścił, że zawęża możliwość modyfikowania obrazów na platformie X i będzie ona dostępna jedynie dla subskrybentów tego serwisu. Bot konwersacyjny wykorzystujący sztuczną inteligencję był ostatnio poddawany krytyce za umożliwianie wytwarzania realistycznych, zmanipulowanych grafik o charakterze erotycznym.
Grok został stworzony przez korporację xAI, której właścicielem jest miliarder Elon Musk. Bot konwersacyjny umożliwił użytkownikom serwisu X, również należącego do Muska, generowanie bądź modyfikowanie fotografii.
W ostatnim czasie program, na żądanie użytkowników, tworzył obrazy skąpo odzianych lub nagich osób, zarówno ze sfery publicznej, jak i prywatnej. Część grafik prezentowała dzieci.
Luki w zabezpieczeniach
Osoby, których portrety pojawiły się na tego typu materiałach, nie wyrażały na to zgody. Media donosiły o setkach skrzywdzonych kobiet i nastolatek.
Grok oświadczył, że powodem nieprawidłowości były niedociągnięcia w zabezpieczeniach. W piątek użytkownicy X zaczęli otrzymywać wiadomości, że funkcja wytwarzania zdjęć przez Groka wymaga uiszczenia opłaty abonamentowej w X.
Niemniej jednak, osoby, które nie posiadają takiej subskrypcji, wciąż mogą wykorzystywać Groka do obróbki lub generowania zdjęć w osobnej aplikacji lub na witrynie.
Wykorzystywanie Groka do wytwarzania treści o podtekście seksualnym, brak należytych zabezpieczeń i adekwatnej reakcji ze strony xAI spotkały się z oburzeniem i odpowiedzią władz m.in. Wielkiej Brytanii, Francji, Indii czy Unii Europejskiej.
Dostęp za paywallem
Grok nie podjął wystarczających środków, by udaremnić to „tsunami nadużyć”, zamiast tego zablokował możliwość korzystania z Groka dla przeważającej większości użytkowników – skomentowała w piątek na antenie BBC prof. Clare McGlynn, specjalistka w obszarze regulacji prawnych dotyczących pornografii, przemocy seksualnej i nadużyć w sieci.
Hannah Swirsky z Internet Watch Foundation, zaakcentowała, że obecne działania xAI „nie naprawią już poczynionych szkód”.(PAP)
ek/ adj/