Джордж Хотц предупредил о рисках AI-агентов для программирования
Джордж Хотц, известный как geohot и связанный с первым jailbreak iPhone и взломом PlayStation 3, резко раскритиковал массовое внедрение AI-агентов для программирования. В посте The Eternal Sloptember он назвал их потенциально одной из самых дорогих ошибок для индустрии разработки ПО.
По словам Хотца, проблема не в том, что AI-инструменты иногда ошибаются, а в том, что их ошибки всё сложнее заметить. Код может выглядеть убедительно, проходить поверхностную проверку и при этом создавать скрытый технический долг. Это особенно важно на фоне того, как крупные компании всё активнее встраивают AI в рабочие процессы разработчиков, включая инструменты уровня Microsoft Copilot.
Хотц утверждает, что тестировал AI-агентов шесть месяцев на реальных задачах, включая части Tinygrad и обратную разработку прошивки USB-PCIe chip. Его вывод жёсткий: сильные инженеры ещё могут распознать плохой результат, а менее опытные разработчики рискуют принимать такой код за рабочий. При этом, по его оценке, слабые инженеры с AI могут производить до 10 раз больше плохого кода, снижая среднее качество проекта.
В статье Decrypt позиция Хотца подана как часть более широкого спора вокруг LLM и автоматизации разработки. На одной стороне — скептики вроде Yann LeCun и Gary Marcus, которые давно указывают на ограничения языковых моделей. На другой — инженеры вроде Andrej Karpathy, который 19 мая сообщил о переходе в Anthropic и более оптимистично смотрит на будущее разработки с AI.
Этот спор важен не только для программистов. Если AI-агенты действительно начнут массово ускорять производство плохо проверяемого кода, последствия почувствуют и пользователи: баги, нестабильные обновления, уязвимости и рост стоимости поддержки. Похожие вопросы уже возникают в проектах, где разработчики спорят о границах допустимого использования автономных AI-инструментов, например в случае запрета автономных AI-агентов в RPCS3.
При этом из слов Хотца не следует, что все AI-инструменты для программирования бесполезны. Его тезис точнее: автоматизация может быть полезной в руках сильного инженера, но опасной, если компания начинает измерять успех только скоростью генерации кода. На этом фоне показателен и более осторожный подход Линуса Торвальдса к теме AI-кода в ядре Linux: вопрос упирается не в сам факт использования AI, а в контроль качества и ответственность за результат.
Источник: Decrypt
