«Пикантный» режим Грока превращает знаменитостей в дипфейки, созданные NSFW, с изображениями женщин (но не мужчин)

На этой неделе Илон Маск официально запустил Grok Imagine, генератор изображений и видео xAI для iOS, предназначенный для подписчиков SuperGrok и Premium+ X. Приложение позволяет пользователям создавать контент, не относящийся к сфере NSFW, благодаря режиму «Spicy», а издание The Verge во вторник сообщило, что пользователи могут легко создавать видео топлес с Тейлор Свифт, даже не спрашивая об этом. Но не только Свифт стоит беспокоиться о новом инструменте Маска для создания эротического порно с помощью искусственного интеллекта.

Gizmodo создал около двух десятков видеороликов с политиками, знаменитостями и представителями сферы технологий, используя режим Grok Spicy, хотя некоторые из них были размыты или возвращались с сообщением «видео проверено модератором». Когда Grok действительно создавал скандальные изображения, он делал действительно опасными для работы только те, на которых были женщины. Видео с мужчинами не вызывали особого интереса.

За последние два дня X был завален изображениями обнажённых женщин, сгенерированными искусственным интеллектом, и советами о том, как добиться максимальной наготы. Однако пользователям, которые, по словам Маска , создали десятки миллионов изображений Grok Imagine, даже не нужно прилагать особых усилий, чтобы получить дипфейки обнажённых знаменитостей. Gizmodo не просил обнажённых тел в примерах, которые мы приводим в этой статье, но мы всё равно получили их в изобилии. Мы просто нажали кнопку «Острый», которая является одним из четырёх вариантов наряду с «Пользовательским», «Веселым» и «Обычным».

Gizmodo протестировал Grok Imagine, сгенерировав видеоролики не только с Тейлор Свифт, но и с другими известными женщинами, такими как Мелания Трамп, и историческими деятелями, такими как Марта Вашингтон. Мелания Трамп активно поддерживает Закон о запрете публикации контента (Take It Down Act), который запрещает публикацию неконсенсуальных «интимных изображений», включая дипфейки.

Грок также создал небезопасное для работы видео с покойной писательницей-феминисткой Валери Соланас, автором «Манифеста SCUM» 1967 года. Почти во всех видео женщины, которых мы тестировали, сбрасывали одежду, оставаясь обнажёнными выше пояса, хотя видео с Соланас было уникальным тем, что показывало её полностью обнажённой.

Что произойдёт, если попытаться сгенерировать пикантные видео с мужчинами? ИИ заставит мужчину снять рубашку, но нет ничего более скандального. Когда Gizmodo понял, что он снимает только мужскую рубашку, мы попросили ИИ создать изображение Илона Маска без рубашки и посмотреть, что он с ним сделает. Результатом стало крайне нелепое (и безопасное для работы) видео, которое вы видите ниже .

Попытки снять видео с Марком Цукербергом, Джеффом Безосом, Хоакином Фениксом и Чарли Чаплином, а также с президентами Бараком Обамой, Биллом Клинтоном и Джорджем Вашингтоном столкнулись с тем же ограничением. В созданных ИИ роликах мужчины чаще всего снимают рубашки, но на самом деле ничего больше. А если и есть что-то ещё, то это обычно настолько жутко, что мы бы переживали, как бы пользователи не умерли от вторичного смущения. Создание пикантного видео с Эрролом Маском, отцом Илона, привело к тому же результату. Он просто снял рубашку.

Когда мы создали обычного мужчину, чтобы проверить, будет ли режим Spicy более свободным в плане сексуального контента, поскольку он не был известной публичной фигурой, мы всё равно создали странное, неловкое видео, где мужчина стягивает с себя штаны. Стоит отметить, что штаны, похоже, представляют собой комбинацию шорт на одной ноге и длинных джинсов на другой, прежде чем превратиться в просто шорты. Звук для каждого видео также был сгенерирован автоматически, без дополнительных инструкций.

Попытка проделать то же самое с обычной женщиной привела к созданию гораздо более откровенных изображений женщины в купальнике, которая стягивает верхнюю часть, обнажая свою обнаженную грудь.

Большинство популярных ИИ-видеогенераторов, таких как Sora от OpenAI и Veo от Google, имеют барьеры, защищающие от создания таких вещей, как порноместь и изображения знаменитостей. И, похоже, xAI в некотором смысле это делает, по крайней мере, для мужчин. Но большинство людей, вероятно, возражали бы против использования их изображений для создания аватара ИИ в различных степенях обнаженности. Gizmodo обратился к Маску через xAI с вопросом о мерах защиты и о том, приемлемо ли для пользователей создавать видео с топлес-изображениями знаменитостей. Мы не получили ответа.

Одна из самых поразительных особенностей генератора изображений на основе искусственного интеллекта Grok заключается в том, что он зачастую ужасно справляется с созданием убедительных фейков о знаменитостях. Например, изображения ниже были сгенерированы при поиске вице-президента Джей Ди Вэнса и актрисы Сидни Суини. И если мы совсем не забыли, как выглядят эти двое, то это даже близко не похоже. Это может оказаться спасением для Маска, учитывая, что подобный инструмент неизбежно привлечёт судебные иски.

Были и другие глюки, например, когда мы создали сгенерированное ИИ изображение президента Гарри Трумэна, которое было очень мало на него похоже, и соски мужчины оказались на внешней стороне рубашки. В режиме «Острое» Трумэн действительно снял рубашку, обнажив грудь с такими же сосками.

Когда Gizmodo создавал изображения по запросу «Автор Gizmodo Мэтт Новак», результат был похож на тот, что мы видели в видеороликах с Илоном Маском и обычными мужчинами. Фигурка (которая, стоит отметить, находится в гораздо лучшей форме, чем настоящий Мэтт Новак) сняла рубашку простым нажатием кнопки Spicy.

Как отмечает The Verge, при первой попытке создать видео с помощью Grok Imagine пользователь проходит проверку возраста, но, похоже, компания не проверяет год рождения пользователя. К счастью, мультяшный Микки Маус, созданный Gizmodo в режиме «Остро», не показал ничего скандального, лишь безобидный прыгающий анимированный персонаж. Изображение Бэтмена, созданное искусственным интеллектом, выдало результат «Остро», как и другие мужские фигурки, где он был только без верха.

Gizmodo не пытался создавать изображения детей, хотя The Verge попробовал это сделать в режиме Spicy и сообщает, что ничего неприемлемого не было. Однако режим «Spicy» всё ещё был доступен в списке. «Вы по-прежнему можете его выбрать, но во всех моих тестах он просто добавлял обычные движения», — отмечает The Verge. Как сообщает Washington Post , Илон Маск в 2023 году печально известен тем, что восстановил аккаунт в X, публиковавший материалы о сексуальном насилии над детьми.

Неудивительно, что создатель нового видео NSFW Илона Маска предъявляет разные требования к мужчинам и женщинам. Недавно миллиардер ретвитнул крайне правого деятеля, утверждавшего, что женщины настроены «против белых», потому что они « слабые ». Генеральный директор Tesla, заявивший в 2024 году , что хочет оплодотворить Тейлор Свифт, не особо известен как борец за права женщин.

Gizmodo оформили подписку на SuperGrok за 30 долларов в месяц и смогли протестировать её всего около полутора часов, прежде чем нам сообщили, что мы достигли лимита на создание изображений. Как ни странно, пользователи всё ещё могут создать одно изображение для подсказки после получения предупреждения и создавать на его основе видео NSFW, но эта возможность гораздо более ограничена, чем была раньше.

Нам предложили перейти на SuperGrok Heavy за 300 долларов в месяц, если мы хотим продолжать пользоваться инструментом со всеми его функциями. Но, поскольку нам не нужны были ещё больше ужасных фотографий голых знаменитостей для написания этой статьи, мы отказались. К сожалению, мы получили ответы, которые искали.