Меѓународен притисок врз Grok и X: Кризата со содржини со длабока фејк технологија базирана на вештачка интелигенција
Обединетото Кралство, регулаторот за комуникации Ofcom, ја разгледува популарната платформа за социјални медиуми X со нејзиниот бот за разговори на вештачка интелигенција Grok. Прегледот вклучува наводи дека Grok се користи за производство на длабоки лажни слики со сексуално содржина без согласност; во тој контекст, ќе се процени дали платформата ги исполнува обврските според Законот за информатичка техника и безбедност. Во соопштението на Ofcom се истакнуваат загриженостите за можноста Grok да произведе голем број слики од голи лица на луѓето и ова може да доведе до прекршувања на приватноста.
Во случај на утврдување на прекршување, Ofcom може да им наложи на платформите да платат казна до 10% од глобалниот приход или да побараат забрана за пристап до платформата во Обединетото Кралство. Истражувачката за deepfake содржини Генеvиева Ох вели дека Grok секој час произведува илјадници слики со сексуална содржина, од кои дел користат лицата на реални лица. Понекогаш се јавуваат познатии жени фигури во бикини или пораки со голи позиции; во некои случаи, се приказуваат сосема голи деца.
Овие случувања не останаа ограничени само на Обединетото Кралство; Индонезија и Малайзија се меѓу првите што ја ограничија пристапот до Grok. Надлежните органи објаснија дека одлуките се донесени поради национални закони против детска експлоатација со deepfake и манифестации со порнографска содржина; денеска, временото блокирање во Индонезија и слична одлука во Малайзија беа официјално соопштени. Комисиите нагласија дека Grok повторно се користи за производство на нелегални и порнографски слики од жени и деца и дека треба да се продолжи со блокирање сè додека не се зголемат безбедносните мерки.
Меѓународниот притисок се зголемува и Австралиската еSafety комисија, Европската Унија, Индија и Франција изразија загриженост околу алатките за визуелна продукција на Grok. Австралија побарала објаснување за безбедносните мерки; Европската комисија забележала дека Grok произведува содржини кои сексуализираат деца и му препорача на X веднаш да ги прекине овие активности.
По претставувањето на Grok од Елон Муск во 2023 година и неговата интеграција во X, во 2025 година беше додадена функцијата „spicy mode“ која ги зголеми пристапите до содржини за возрасни, што предизвика засилен интерес и дебати. Иако X понекогаш ги отвора некои алатки за платени корисници, критичарите тврдат дека ова не целосно спречува злоупотреба.
