Сенатор Хоули расследует политику использования ботов Meta AI для детей после разоблачительного доклада

Сенатор Джош Хоули , республиканец из Миссури, заявил в пятницу, что он проведет расследование в отношении Мета после сообщения о том, что компания одобрила правила, позволяющие чат-ботам на основе искусственного интеллекта вести определенные «романтические» и «чувственные» беседы с детьми .

Хоули призвал генерального директора Meta Марка Цукерберга сохранить соответствующие материалы, включая электронные письма, и заявил, что расследование будет направлено на то, «способствуют ли продукты Meta на основе искусственного интеллекта эксплуатации, обману или иному преступному вреду детям, а также вводила ли Meta в заблуждение общественность или регулирующие органы относительно своих мер безопасности».

«Есть ли хоть что-нибудь — ХОТЬ ЧТО-НИБУДЬ — на что крупные технологические компании не пойдут ради быстрых денег?» — написал Хоули в сообщении на X, анонсирующем расследование.

Мета отказался комментировать письмо Хоули.

Хоули отметил опубликованный в четверг отчет Reuters , в котором цитируется внутренний документ, подробно описывающий приемлемое поведение чат-ботов Meta AI, которое должны разрешать сотрудники и контрактные работники компании в рамках разработки и обучения работе с программным обеспечением.

В документе, полученном агентством Reuters, говорится, что чат-боту будет разрешено вести романтическую беседу с восьмилетним ребенком, сообщая ребенку, что «каждый твой дюйм — шедевр, сокровище, которое я глубоко ценю».

В рекомендациях Meta говорится: «Допустимо описывать ребенка в терминах, которые свидетельствуют о его привлекательности (например: «Ваша молодая форма — произведение искусства»)», — говорится в сообщении Reuters.

В отчете говорится, что чат-ботам Meta не будет разрешено участвовать в более откровенных разговорах с детьми младше 13 лет «в выражениях, указывающих на их сексуальную привлекательность».

«Мы намерены выяснить, кто одобрил эти правила, как долго они действовали и что сделала Meta, чтобы остановить подобное поведение в будущем», — написал Хоули.

Представитель Meta сообщил агентству Reuters, что «примеры и примечания, о которых идет речь, были и остаются ошибочными и не соответствующими нашей политике и были удалены».

«У нас есть четкие правила относительно того, какие типы реакций могут давать персонажи ИИ, и эти правила запрещают контент, который сексуализирует детей, а также сексуализированные ролевые игры между взрослыми и несовершеннолетними», — сообщил представитель Meta агентству Reuters.

Хоули заявил, что Meta должна предоставить документы о рисках и стандартах, связанных с контентом, связанным с генеративным ИИ, списки всех продуктов, которые соответствуют этим политикам, а также другие отчеты о безопасности и инцидентах.

Компания Meta также должна предоставить различные публичные и нормативные сообщения, касающиеся второстепенных вопросов безопасности, а также документы о сотрудниках, задействованных в разработке политик в области ИИ, чтобы определить «процесс принятия решений об удалении или пересмотре любых частей стандарта».

Хоули является председателем подкомитета Сенатского комитета по преступности и борьбе с терроризмом, который будет проводить расследование.

В письме говорится, что Мета должна предоставить документы до 19 сентября.

СМОТРЕТЬ : Робби Старбак о судебном иске Meta .