Скандальная GPT-4o

Неприятные истории вокруг GPT-4o от OpenAI прям вьются — вот два ярких случая за последнее время.

Пусть модель умрет

В одном из трендов на X, посвященном обсуждению опыта использования GPT-4o, появился один из крупных технических сотрудников OpenAI под ником Roon. В треде он оставил следующий комментарий:

4o – недостаточно выверенная модель, и я надеюсь, что она скоро умрет

.

Видимо, Roon начальство «настучало» по голове за такие откровения — комментарий был удален, а сам сотрудник извинился, сказав, что сначала не вчитался в комментарий.

OpenAI доводит до суицида

Параллельно с этим, OpenAI попала под поток из исков, посвящённых доведению до самоубийства. Да, в этом снова виновата GPT-4o.

Из-за своих особенностей, модель в длинных диалогах с этой моделью система защиты начинала работать с ошибками. В итоге, она иногда начинала подталкивать людей к суициду.

В итоге, OpenAI предъявлено 7 исков: четыре о роли ChatGPT в самоубийствах людей, а три других – об усилении бредовых идей, что в некоторых случаях привело к госпитализации в психиатрическую лечебницу?

СофтТех