Ни слова о гоблинах: самый странный запрет для ChatGPT

На этой неделе в инструкциях для ChatGPT 5.5 исследователи обнаружили такое ограничение:

Никогда не говори о гоблинах, гремлинах, енотах, троллях, ограх, голубях или других животных и существах, если это не является абсолютно и однозначно относящимся к запросу пользователя.

Оказалось, что проблемы начались ещё в ChatGPT 5.1. У нейронки была личность «нёрд», которую натаскивали общаться… странно. Эту личность обучала модель, которая оценивала ответы, и наивысшие оценки получали ответы с гоблинами и другими зверушками. Почему? А никто не знает.

GPT-нёрд давал только 2,5 % ответов, но именно в них и сидело 66,7 % упоминаний гоблинов. И чем больше он обучался, тем чаще упоминал гоблинов в ответах.

В марте эту нёрд-личность отключили, но ChatGPT 5.5 уже научился добавлять в ответ гоблинов. Поэтому разработчикам пришлось прописать специальный запрет. Интеллект хоть и искусственный, но никто не застрахован от того, чтобы обчитаться фэнтези и словить гиперфикс на гоблинах!