Тајне сексуализованог дипфејк садржаја

Вештачки четбот Грок, у власништву компаније милијардера Илона Маска, ограничио је функцију генерисања и уређивања слика искључиво на претплатнике који плаћају услуге друштвене мреже X, а након глобалних критика због могућности креирања дипфејк порнографског садржаја, укључујући слике жена и малолетника, пише Еурактив.

Приликом покушаја генерисања слика путем платформе ИКС, Грок сада обавештава кориснике да је та функција доступна само претплатницима који плаћају и позива их да се пријаве на „премиум” верзију ИКС-а.

Није, међутим, прецизирано да ли за претплатнике постоје додатна ограничења када је реч о генерисању сексуално експлицитних дипфејк садржаја.

Грок се последњих дана нашао на удару регулатора због такозваног „зачињеног” режима рада, који је омогућавао стварање дубоко лажних, сексуализованих слика, укључујући и слике малолетника.

Због тога су европски законодавци и поједине државе чланице позвале на оштрије мере против таквих технологија.

„Ово је незаконито”, рекао је портпарол Европске комисије за дигитална питања Томас Рење.

Европска комисија је у четвртак наложила компанији ИКС да до краја 2026. године сачува сву интерну документацију и податке у вези са Гроком, користећи овлашћења из Закона о дигиталним услугама, према којем је ИКС сврстан међу платформе под најстрожим надзором ЕУ.

Комисија, међутим, за сада није покренула нову формалну истрагу против X-а поводом случаја са дипфејк порнографијом.

Тестови које је спровео Еурактив показали су да Грок, када му се приступа као самосталној апликацији, а не путем платформе ИКС, и даље може бесплатно да генерише слике на основу корисничких захтева.

Компанија ИКС није одговорила на упите новинара до тренутка објављивања текста, пренео је Танјуг.