Илон Маск согласен с мнением специалистов в области искусственного интеллекта, которые утверждают, что ресурсы для обучения ИИ практически исчерпаны. Он заявил, что «объем знаний для тренировки ИИ был исчерпан» в прошлом году. Подобные мысли также высказал Илья Суцкевер, один из основателей OpenAI.

По мнению Маска, одним из возможных решений проблемы может стать применение «синтетических данных». Это подразумевает, что искусственный интеллект будет способен самостоятельно генерировать данные для дальнейшего обучения.

Такие компании, как Microsoft, Meta и OpenAI уже активно используют синтетические данные для создания своих моделей. Преимуществом этого подхода является значительное сокращение затрат на обучение. Однако существуют и недостатки: модели могут утрачивать креативность и накапливать предвзятости. Чем больше используется синтетических данных с элементами предвзятости, тем сильнее негативные эффекты могут накапливаться со временем.