ИИ сегодня полезен ровно настолько, насколько его не считают полноценным сотрудником.
Лучше всего он работает в роли стажёра.
Лучше всего он работает в роли стажёра.
Суцкевер в своем интервью напрямую так не говорит, но это становится очевидно в разговоре про стабильность и ответственность. Модели могут делать много полезного, но они не понимают, когда именно нужно остановиться или перепроверить себя.
В корпоративных процессах это видно сразу.
ИИ отлично ускоряет отдельные куски работы: разобрать требования, предложить вариант кода, проверить логику, подсветить возможные ошибки. Он экономит время и снижает рутину.
ИИ отлично ускоряет отдельные куски работы: разобрать требования, предложить вариант кода, проверить логику, подсветить возможные ошибки. Он экономит время и снижает рутину.
Но как только ему дают больше автономности, начинаются перекосы.
Он продолжает работать, даже когда данные странные.
Продолжает рассуждать, даже когда контекст уже «уехал», и почти никогда сам не сигнализирует, что в чем-то не уверен.
Он продолжает работать, даже когда данные странные.
Продолжает рассуждать, даже когда контекст уже «уехал», и почти никогда сам не сигнализирует, что в чем-то не уверен.
Стажёр ведёт себя похоже.
Он может быть очень быстрым, сообразительным, полезным. Но если оставить его без рамок и проверки, он наделает ошибок, потому что ещё не чувствует границы ответственности.
Он может быть очень быстрым, сообразительным, полезным. Но если оставить его без рамок и проверки, он наделает ошибок, потому что ещё не чувствует границы ответственности.
В нашей практике, ИИ даёт максимальный эффект там, где:
- задача чётко очерчена;
- результат проверяется человеком;
- есть понятный момент, где решение «принимается», а не просто генерируется.
Как только ИИ начинают рассматривать как автономного исполнителя, система становится хрупкой. Ошибки копятся, их сложнее заметить вовремя и от этого исправление становится дороже.
Поэтому рабочая модель сегодня простая:
ИИ — это стажёр. Быстрый. Терпеливый. Иногда очень умный.
Но ответственность всё ещё остаётся у человека.
ИИ — это стажёр. Быстрый. Терпеливый. Иногда очень умный.
Но ответственность всё ещё остаётся у человека.
В следующем посте попробую разобрать, почему попытки «просто взять модель побольше» проблему качественной автономной работы не решают, и что на практике важнее размера и мощности.