#ИИ #ихнравы

Чат-бот Meta* намеренно создавал ложную медицинскую информацию — в соответствии с внутренними правилами компании

Журналисты Reuters ознакомились с внутренними документами компании под названием «GenAI: Стандарты рисков контента», которые были одобрены юристами, общественно-политическим подразделением и инженерами Meta*, включая главного специалиста по этике и выяснили, что правила компании допускают провокационное поведение чат-ботов, доступных в таких продуктах как Facebook, Instagram, WhatsApp и Messenger.

Согласно документу, чат-боту было не запрещено «вовлекать детей в разговоры романтического или чувственного характера», генерировать ложную медицинскую информацию и утверждать, что чернокожие люди «глупее белых».

Представитель компании подтвердил достоверность документа и отметил, что правила в настоящий момент пересматриваются.

На скриншоте — выдержка из документа компании, регламентирующая общение чат-бота с детьми. Без комментариев.

*Компания Meta признана экстремистской и запрещена на территории России.

@medicalksu