Malezja, po Indonezji, stała się drugim państwem na świecie, które ograniczyło dostęp do chatbota Grok, stworzonego przez xAI Elona Muska. Powodem tej decyzji, jak poinformował w poniedziałek portal BBC, jest generowanie przez ten program pornograficznych deepfake’ów z wizerunkami kobiet oraz dzieci.
Władze Malezji, a konkretnie Komisja ds. Komunikacji i Multimediów, ogłosiły w niedzielę, że zidentyfikowały „wielokrotne przypadki niewłaściwego użytkowania” Groka do tworzenia treści o charakterze szkodliwym. W związku z tym, na początku bieżącego roku, skierowano do xAI prośbę o podjęcie działań naprawczych.
Komisja uznała, że firma X w swojej odpowiedzi nie odniosła się do wspomnianego niebezpieczeństwa i ogłosiła, że Grok zostanie zablokowany na obszarze kraju do czasu implementacji efektywnych zabezpieczeń. Jednocześnie zaapelowano do użytkowników sieci o raportowanie treści o charakterze szkodliwym, które pojawiają się w internecie.
Indonezja, jako pierwsze państwo na świecie, wstrzymała w sobotę dostęp do Groka. „Rząd traktuje praktykę tworzenia nielegalnych deepfake’ów o charakterze seksualnym jako poważne pogwałcenie praw człowieka, godności oraz bezpieczeństwa obywateli w sferze cyfrowej” – oznajmiła w oficjalnym oświadczeniu Meutya Hafid, minister komunikacji i cyfryzacji.
Deepfake to obraz, nagranie audio lub wideo, które zostało wygenerowane za pomocą sztucznej inteligencji, w którym to wizerunek autentycznej osoby został zmodyfikowany cyfrowo lub wstawiony w nowe, nieprawdziwe otoczenie.
Indonezja jest znana z restrykcyjnego prawa dotyczącego kontroli treści w internecie; regulacje te stanowczo zabraniają m.in. dystrybucji materiałów uznanych za nieprzyzwoite. Kroki podjęte przez rząd tego kraju wpisują się w szerszy trend, gdzie organy regulacyjne w państwach europejskich oraz azjatyckich wszczynają dochodzenia w sprawie treści o podtekście seksualnym w aplikacjach AI.
Łączna liczba mieszkańców Malezji i Indonezji przekracza 315 milionów.
Wykorzystywanie Groka do tworzenia materiałów o charakterze erotycznym spotkało się z krytyką ze strony polityków na całym świecie, w tym premiera Wielkiej Brytanii, Keira Starmera, który określił tego typu działania jako „niegodziwe” i „odrażające”. BBC poinformowało, że brytyjski regulator mediów, Ofcom, ma wkrótce podjąć decyzję dotyczącą dalszych działań w sprawie Groka.
Musk wspomniał wcześniej, że osoby krytykujące jego platformę poszukują „dowolnego pretekstu, aby wprowadzić cenzurę”.(PAP)
os/ akl/