OpenAI пришлось цензурировать ChatGPT из-за ее увлечения гоблинами

МОСКВА, 2 мая – РИА Новости.

Компания OpenAI внесла изменения в работу своего чат-бота ChatGPT после того, как он стал повсеместно упоминать гоблинов, гремлинов и других мифологических персонажей в ответах, как сообщается на официальном сайте компании.

В публикации отмечается, что начиная с версии GPT-5.1 модели приобрели необычную привычку часто использовать образы гоблинов, гремлинов и других существ в метафорах. Эта особенность проявлялась во многих поколениях моделей, и количество упоминаний мифических персонажей постоянно росло, что заставило разработчиков разобраться в причинах такого поведения.

В компании объяснили, что случайная особенность системы обучения нейросети привела к тому, что при общении в режиме Nerd (заумник, гик) чат-бот стал чаще использовать мифологических существ в своих ответах.

Согласно данным, наиболее частые упоминания гоблинов наблюдались в версии GPT-5.4. После выявления этого факта OpenAI провела исследование, которое показало, что активное использование мифических образов связано с выбором пользователями режима Nerd для взаимодействия с моделью.

Также выяснилось, что нейросеть получала более высокую «награду» за упоминания мифических существ по сравнению с другими стилями поведения.

Дальнейший анализ выявил в лексиконе нейросети целый ряд других персонажей, включая енотов, троллей, огров и голубей.

В результате компания приняла решение убрать возможность выбора режима Nerd и скорректировать процесс обучения модели, чтобы снизить количество упоминаний мифических существ в ответах.

Источник и фото - ria.ru