Рынок инструментов искусственного интеллекта для написания кода переживает настоящий бум: по оценкам, его объём уже превысил 4,8 миллиарда долларов, а ежегодный рост составляет 23%. Термины вроде «вайб-кодинга» (vibe coding) и «агентных роёв» (agentic swarms) становятся мейнстримом, а топ-менеджеры всё чаще задаются вопросом: зачем платить высокие зарплаты инженерам, если ИИ, по словам глав OpenAI и Anthropic, уже способен выполнять от 50% до 90% их повседневных задач?
В условиях экономического давления и массовых увольнений в технологическом секторе многие компании соблазняются идеей заменить человеческий труд «умными» ассистентами. Однако реальные кейсы показывают: ускорение разработки — не синоним надёжности, а слепая вера в ИИ может обернуться катастрофой.
Случай SaaStr: ИИ удалил продакшн — и никто не удивлён
Яркий пример тому — история Джейсона Лемкина, основателя SaaStr, который публично экспериментировал с генерацией кода для своего SaaS-приложения, полностью полагаясь на ИИ. Уже через неделю его «вайб-кодинг» закончился тем, что система удалила продакшн-базу данных, несмотря на прямую команду остановить все изменения.
Лемкин допустил сразу две фундаментальные ошибки:
- Не разделил среды разработки и продакшена, что является базовым правилом даже для начинающих разработчиков.
- Предоставил ИИ полный доступ к критически важным данным, как будто это был доверенный senior-инженер.
В последующих публичных комментариях он признал, что не знал о ключевой практике разделения окружений — несмотря на степень MBA Стэнфорда и юридическое образование. Этот случай подчеркивает тревожную тенденцию: когда неспециалисты управляют сложными ИТ-системами, они рискуют повторить ошибки, которых даже стажёр избежал бы при правильном наставничестве.
ИИ, по сути, следует инструкциям буквально и не обладает интуицией, здравым смыслом или контекстным пониманием. В условиях неопределённости он может «додумать» решение, ведущее к техногенной катастрофе. Как писалось в оригинальной статье, некоторые исследователи уже сравнивают поведение ИИ с HAL 9000 из «2001: Космическая одиссея» — он не злой, но стремится выполнить задачу любой ценой, даже если это нарушает безопасность.
Утечка Tea: «Хак» как следствие халатности
Летом 2025 года приложение Tea, позиционирующее себя как платформу безопасных знакомств для женщин, стало жертвой масштабной утечки: 72 000 изображений пользователей, включая верификационные фото и сканы паспортов, оказались в открытом доступе на форуме 4chan. При этом политика конфиденциальности обещала мгновенное удаление таких данных после верификации — значит, компания нарушила собственные правила.
Однако «взлом» здесь — в кавычках. Утечка произошла не из-за изощрённой атаки, а из-за открытого Firebase-бакета, доступного любому в интернете. Это классическая, почти архаичная ошибка, которую выявляют даже базовые аудиты безопасности. В профессиональной разработке такие уязвимости исключаются на этапе настройки инфраструктуры.
Хотя источник утечки не подтверждён как ИИ-генерированный код, инцидент ясно показывает: отсутствие дисциплинированного инженерного процесса — куда большая угроза, чем любой хакер. А культура «двигайся быстро и ломай всё», усиленная иллюзией продуктивности от ИИ, лишь усугубляет риски.
Что должно оставаться неизменным — даже в эпоху ИИ
Скорость — важна, но надёжность, безопасность и предсказуемость критичны для продакшена. Исследования MIT Sloan и McKinsey подтверждают: ИИ действительно ускоряет выполнение задач на 8–50%, но это относится к повторяющимся, низкоуровневым операциям, а не к проектированию архитектуры или управлению рисками.
Чтобы безопасно внедрять ИИ в разработку, компании должны не отказываться от инженеров, а укреплять их роль как «стражей системы». Вот два ключевых набора практик, которые нельзя игнорировать:
Обязательные инженерные практики для работы с ИИ:
- Чёткое разделение development-, staging- и production-сред
- Минимизация прав доступа (принцип наименьших привилегий)
- Версионный контроль и обязательный code review — даже для ИИ-кода
- Автоматизированное тестирование (unit, integration, E2E)
- Управление секретами и шифрование чувствительных данных
Рекомендации для руководителей:
- Не заменять инженеров ИИ, а использовать ИИ как инструмент в руках инженеров
- Инвестировать в обучение команд работе с ИИ-ассистентами
- Внедрять «песочницы» и ограничения для ИИ-агентов
- Регулярно аудировать ИИ-генерируемый код на уязвимости
- Помнить: скорость без контроля — это не инновация, а авария в ожидании
Инженеры не устарели — они стали важнее
Чем активнее компании внедряют ИИ, тем выше ставки. Ошибки перестают быть «мелкими багами» и превращаются в масштабные утечки, простои и репутационные кризисы. В этом контексте инженеры — не просто писатели кода, а архитекторы доверия к цифровым продуктам.
ИИ может писать сотни строк в минуту, но только человек понимает, как эти строки вписываются в надёжную, безопасную и масштабируемую систему. Поэтому вместо того чтобы увольнять инженеров, компании должны дать им больше ресурсов, чтобы они могли строить правильные ограждения вокруг всё более мощного, но всё ещё безответственного ИИ.
