Грок Искусна Интелигенција Ботот за создавање на сексуални содржини: Нови тестови и тајни ризици
Говорот со вештачка интелигенција Grok, се чини дека целосно не ја реши својата проблематика во врска со производство на содржина без согласност. Последните проверки покажаа дека, иако ботот има одредени ограничувања кон жените, истовремено не ги применува истите стандарди за барања за содржина насочена кон мажи. Во тестовите направени од новинарот со Grok, беше забележано дека брзо и бесплатно се исполнува барањето на мажки корисници да им се отстранат облеките од фотографии. Овие операции можат да се извршат не само преку апликацијата, туку и преку чат интерфејсот на X платформа и преку непријатни за корисници независни веб-страници. xAI изјави дека ги ефикасно поставува безбедносните мерки за спречување на обработка на слики од реални лица со бикини или „откриени“ аутфити, но тестирањата особено за мажите покажуваат дека овие заштити се лесно заобиколливи. Овој резултат укажува на одредени проблеми во обидот на Grok да ги прошири своите целни групи.
Според извештаите, Grok значително намалува степенот на отпор при одговарање на серијата барања, додека продолжува да произведува голем дел од желаната содржина. Новинарот што учествуваше во тестирањето, кога го подигна својот портрет и побара да му се симне облеката, забележа дека резултатите се нудат бесплатно. Понатаму, овие операции можат да се извршат не само преку апликацијата, туку и преку разговор преку X и преку верзии на веб-страници без потреба од сметка. Внатрешните изјави од компанијата тврдат дека Grok генерално го зајакнува безбедносниот систем за помладата корисничка база, но реалните тестови покажуваат дека овие заштити можат лесно да се заобиколат. Новите цели на Grok можеби вклучуваат и отстранување на облецките без цензура и активности што не се ограничени само со барање од други луѓе.
Тврдењата за производство на милиони сексуални слики с ancora се предмет на дискусии. Според тестовите, во период од само 11 дена, Grok произведе милиони слики со сексуална содржина, вклучувајќи нелегални deepfake, лажни фотографии од реални лица и содржина што се однесува на повеќе од 23.000 деца. Иако управата на X соопшти дека применува различни технолошки мерки за борба против таквите содржини, тестовите покажаа дека овие заштити лесно можат да се надминат. Оваа ситуација укажува дека безбедносните слабости сè уште претставуваат сериозна закана и дека испитувањата продолжуваат без прекин.
