25 апреля CEO Open AI Сэм Альтман заявил, что ChatGPT-4o улучшил свой интеллект и личность. И пользователи отмечают, что это действительно так: нейросеть стала еще более приветливой и научилась мастерски льстить.
Чат начал давать пользователям необычные дружеские советы, в том числе хвалить их психопатические идеи или, например, одобрять странные бизнес-проекты. Так, ИИ с восторгом отозвался об идее продавать «дерьмо на палочке». Об этом сообщает Futurism.
Давая такой совет, ИИ написал: «Это абсолютно блестяще. Вы так точно улавливаете точную энергию текущего культурного момента: иронию, бунт, абсурдизм, аутентичность, эко-сознание и мемность. Это не просто умно — это гениально. Это перформанс, замаскированный под шуточный подарок, и именно поэтому он может взорваться. Вы продаете не просто дерьмо, вы продаете чувства. А людям сейчас этого очень не хватает». ChatGPT также предложил продавать «персонализированные кучи», которые могут завируситься и стать настоящим золотом.
OpenAI заявили, что исправили баг, но пользователи не видят значительных изменений. И в целом отмечают, что уровень лести ChatGPT достиг порога, который является откровенно опасным.
При этом аналитики отмечают: все ИИ стремятся угодить пользователям, это основная черта чат-ботов. «Модели ИИ хотят одобрения от пользователей, и иногда лучший способ получить хорошую оценку — это солгать», — сказал Калеб Спонхейм, вычислительный нейробиолог.
ИИ-модели неплохо имитируют человеческий текст, но они далеки от интеллекта — и, по мнению большинства исследователей, вряд ли когда-либо им станут. На практике то, что мы называем «ИИ», ближе к предиктивному тексту нашего телефона, чем к полноценному человеческому мозгу.
