OpenAI анонсировала CriticGPT, созданную для выявления ошибок в коде ChatGPT
Компания OpenAI разработала новую модель искусственного интеллекта под названием CriticGPT, которая предназначена для выявления ошибок в программном коде, генерируемом нейросетью ChatGPT.
CriticGPT основана на семействе больших языковых моделей GPT-4 и анализирует код, указывая на потенциальные проблемы и ошибки. Это позволяет специалистам, обучающим ChatGPT с помощью обратной связи от людей (RLHF), более эффективно находить и исправлять недочеты в выводе ChatGPT.
Исследования показали, что использование CriticGPT повышает производительность таких специалистов более чем на 60%.Таким образом, новая модель OpenAI помогает ускорить процесс обучения и улучшения ChatGPT путем автоматизации выявления ошибок в его выводе.
«По мере совершенствования наших рассуждений и моделирования поведения бота, ChatGPT становится более точным, а его ошибки – менее заметными. Ошибки такого рода труднее всего установить. Для решения этой пробы необходима разработка CriticGPT. Мы обучили его выявлять неточности в ответах ChatGPT и делать соответствующие замечания», — заявили в компании OpenAI.
Рекомендуем к прочтению
- В Китае открылся новый институт стандартизации контроля над искусственным интеллектом
- Новый стартап Safe Superintelligence собрал около $1 млрд инвестиций для развития ИИ
- Google.org внедряет новые ИИ решения для эффективной работы некоммерческих организаций
- Snap расширяет набор инструментов искусственного интеллекта для свои пользователей
- Mistral AI представляет новые возможности – бесплатные уровни для разработчиков