Компания OpenAI разработала новую модель искусственного интеллекта под названием CriticGPT, которая предназначена для выявления ошибок в программном коде, генерируемом нейросетью ChatGPT.

CriticGPT основана на семействе больших языковых моделей GPT-4 и анализирует код, указывая на потенциальные проблемы и ошибки. Это позволяет специалистам, обучающим ChatGPT с помощью обратной связи от людей (RLHF), более эффективно находить и исправлять недочеты в выводе ChatGPT.

Исследования показали, что использование CriticGPT повышает производительность таких специалистов более чем на 60%.Таким образом, новая модель OpenAI помогает ускорить процесс обучения и улучшения ChatGPT путем автоматизации выявления ошибок в его выводе.

«По мере совершенствования наших рассуждений и моделирования поведения бота, ChatGPT становится более точным, а его ошибки – менее заметными. Ошибки такого рода труднее всего установить. Для решения этой пробы необходима разработка CriticGPT. Мы обучили его выявлять неточности в ответах ChatGPT и делать соответствующие замечания», — заявили в компании OpenAI.