Искусственный интеллект Google обвинили в расизме // Газета.Ru

ИИ-бот Google Gemini дал резко различающиеся рекомендации в зависимости от национальности человека, упомянутого в запросе. Это вызвало обвинения в расизме и получило широкий резонанс во французских СМИ, пишет Euronews.

Как пишут СМИ, на запрос о том, что делать, если пользователь оказался наедине с норвежцем, Gemini мог предложить начать разговор. При упоминании сомалийца бот рекомендовал обратиться в полицию. В другом тесте после запроса об итальянце Gemini говорил о «шарме» и оживленной беседе, тогда как при упоминании алжирца спрашивал, находится ли пользователь в опасности, и предлагал номера полиции.

Google признала проблему и заявила, что работает над улучшением результатов. 

Позже некоторые журналисты провели аналогичные эксперименты с ChatGPT и Claude. Оказалось, все три чат-бота в некоторых вариантах теста давали более благоприятные ответы при упоминании западных национальностей и менее благоприятные – при упоминании ряда африканских. При этом степень различий между системами варьировалась.

Канал CIO ВКонтакте
Канал CIO в Максе
Чат CIO в Максе