Недавно посмотрел большое интервью Ильи Суцкевера — человека, который стоял у истоков современных LLM и сейчас сознательно ушёл в сторону фундаментальных исследований.
Илья — бывший главный научный сотрудник OpenAI и руководитель направления по безопасности сверхразумного ИИ. Чуть более года назад он основал Safe Superintelligence, где работает над ядром LLM нового поколения. Поэтому его взгляд особенно показателен. Это его первое публичное выступление с декабря 2024.
Что в этом интервью показалось особенно важным — довольно спокойная, но жёсткая мысль: модели сегодня выглядят заметно умнее, чем их реальная прикладная польза в продакшене.
Этот разрыв хорошо знаком по собственной практике.
LLM впечатляют в демонстрациях, тестах и отдельных задачах. Но как только начинаешь использовать их в реальных процессах — особенно в корпоративных системах с длинными цепочками шагов, зависимостями и требованиями к стабильности — он быстро проявляется. Модель может рассуждать убедительно, но при этом регулярно теряет контекст, зацикливается или уверенно предлагает неверные решения.
Суцкевер в интервью довольно точно формулирует этот дисбаланс: мы научились делать модели, которые хорошо «выглядят умными», но при этом всё ещё плохо обобщают и слабо чувствуют направление решения в реальных сценариях.
По опыту команды, именно поэтому сегодня ИИ даёт максимальный эффект не там, где его пытаются сделать полностью автономным, а там, где он встроен в процесс как инструмент, а не как самостоятельный агент. Он отлично ускоряет отдельные этапы, но всё ещё требует чётких рамок, архитектуры и контроля.
Отсюда, кстати, и возникает странное несоответствие: вокруг ИИ — огромные инвестиции и громкие анонсы, а в реальной разработке прогресс ощущается более приземлённо и неравномерно.
Интервью Суцкевера ценно именно этим сдвигом фокуса: меньше веры в то, что масштабирование само по себе решит всё, и больше внимания к тому, как именно модели учатся, обобщают и встраиваются в реальные системы.
Для нас это хорошо резонирует с практикой: ИИ уже стал рабочим инструментом, но только там, где его использование архитектурно ограничено и логично встроено в процесс, а не возведено в абсолют.
Продолжу разбирать интервью дальше — там есть ещё несколько мыслей, которые неожиданно точно ложатся на опыт разработки корпоративных систем.