Компания OpenAI объявила о назначении Зико Колтера, эксперта в области безопасности искусственного интеллекта, на должность технического директора.

Это назначение подчеркивает растущую важность вопросов безопасности ИИ для OpenAI на фоне недавних изменений в руководстве.

Безопасность и надежность искусственного интеллекта находятся в центре стратегии OpenAI, особенно после ухода нескольких ключевых фигур, включая соучредителя Илью Суцкевера, который активно занимался проблемами защиты. Назначение Колтера всего через несколько месяцев после этих перестановок указывает на необходимость укрепления команды по безопасности.

Многие из уволенных сотрудников были частью группы «Superalignment», сосредоточенной на разработке методов управления «суперинтеллектуальными» системами. По данным источников, нехватка вычислительных ресурсов могла стать одной из причин их ухода.

Роль Колтера в комитете по безопасности

Помимо должности технического директора, Колтер также войдет в состав Комитета по безопасности и защите OpenAI. Он будет работать вместе с такими известными фигурами, как Брэт Тейлор, Адам Д’Анджело, Пол Накасоне, Николь Селигман и генеральный директор Сэм Альтман.

Этот комитет отвечает за разработку рекомендаций по безопасности для всех проектов компании. Однако состав комитета, состоящий в основном из внутренних сотрудников, вызывает вопросы у некоторых экспертов относительно его объективности и эффективности.

Что думает на этот счет руководство

Брэт Тейлор, председатель совета директоров OpenAI, отметил: «Зико обладает глубокими техническими знаниями и уникальными перспективами в области безопасности и надежности ИИ. Его опыт поможет нам гарантировать, что искусственный интеллект будет служить на благо всего человечества».

Профессиональная биография Зико Колтера

Ранее Зико Колтер занимал должность главного научного сотрудника по данным в компании C3.ai. Он получил степень PhD по компьютерным наукам в Стэнфорде в 2010 году и прошел постдокторскую стажировку в MIT с 2010 по 2012 год. В своих исследованиях он продемонстрировал возможности обхода существующих средств защиты ИИ с помощью автоматизированных методов оптимизации.