Более ста технологических, финансовых и инфраструктурных компаний подписали открытое письмо с призывом резко усилить защиту от кибератак с применением искусственного интеллекта. Среди участников — OpenAI, Microsoft, Google, Anthropic, Amazon Web Services, IBM, Cloudflare, Cisco, CrowdStrike, Visa и Mastercard.
Авторы предупреждают, что новые модели снижают стоимость сложных атак и позволяют быстрее искать уязвимости, писать вредоносный код и масштабировать социальную инженерию. OpenAI опубликовала письмо вместе со списком подписантов и набором мер для разработчиков, бизнеса и государства.
Чего требуют компании
Первое предложение — сделать киберзащиту задачей руководства, а не только ИТ-отдела. Подписанты считают, что больницы, водоканалы, транспорт и малый бизнес не успеют самостоятельно внедрить инструменты уровня крупнейших корпораций. Им нужны финансирование, обучение и доступ к защитным моделям.
Второе направление — безопасный доступ проверенных специалистов к наиболее мощным ИИ-системам. Логика проста: защитники должны находить и исправлять уязвимости до того, как ту же работу автоматизируют злоумышленники. Для этого компании предлагают программы верификации, журналирование действий и ограничения, которые не блокируют законное исследование безопасности.
Третья мера — обмен информацией. Сейчас сведения об одной атаке часто остаются внутри отдельного банка, облачного сервиса или госучреждения. Машинно-читаемые индикаторы, общие стандарты отчетности и быстрые каналы связи позволят другим организациям закрывать ту же дыру до повторного удара.
Почему предупреждение появилось сейчас
Современные модели уже помогают анализировать код, искать ошибки и автоматизировать рутинные операции специалиста. Эти возможности симметричны: тот же инструмент ускоряет аудит программы и подготовку атаки. Reuters пишет, что подписанты видят ограниченное окно, когда оборона еще может получить преимущество за счет координации.
Письмо не сообщает о единой уже начавшейся атаке и не называет конкретную дату «цифровой катастрофы». Это прогноз отрасли и попытка заранее сформировать правила. Чем быстрее модели осваивают автономные многошаговые задачи, тем меньше времени остается между обнаружением уязвимости и ее массовым использованием.
Что это меняет для обычной компании
Практический минимум остается знакомым: многофакторная аутентификация, резервные копии, своевременные обновления, разделение прав доступа и подготовленный план реагирования. ИИ не отменяет эти меры — он делает промедление дороже. Скомпрометированная учетная запись администратора по-прежнему опаснее эффектного сценария из фильма.
Организациям также придется установить правила использования публичных чат-ботов. Сотрудники не должны загружать туда пароли, ключи API, внутренний код и персональные данные. Защитные ИИ-инструменты разумно запускать в контролируемой среде с журналами и человеком, который подтверждает критические действия.
Следующий шаг — инвентаризация: компания должна знать, какие модели уже используют сотрудники и подрядчики, к каким данным они имеют доступ и кто отвечает за остановку автономного процесса. Без этой карты даже хорошая система мониторинга видит отдельные сигналы, но не понимает, какой бизнес-процесс оказался под угрозой.
Sky News отмечает, что среди подписантов есть не только разработчики моделей, но и банки, страховщики и операторы критической инфраструктуры. Это превращает письмо из заявления ИИ-индустрии в более широкий запрос бизнеса.
На практике риски автономных систем уже проявлялись в контролируемых испытаниях: DigiRPT разобрал инцидент с ИИ-агентами OpenAI и Hugging Face. Другой свежий материал объясняет, как стандарт Anthropic связывает модели с физическими устройствами.
