Искусственный интеллект – новейшая угроза кибербезопасности?
Искусственный интеллект становится эффективным инструментом не только для решения обычных задач, но и для осуществления вредоносных кибератак. Об этом пишет Science News в материале «How big a cybersecurity threat are the latest AI models, really?». Поводом для публикации стало предупреждение специалистов по безопасности: использование ИИ в киберпреступности растёт, и злоумышленники уже применяют новые технологии, чтобы действовать быстрее и эффективнее. По мнению экспертов, речь идёт вовсе не о далёком будущем, поскольку скорость развития событий в этой сфере измеряется уже не годами, а месяцами и неделями.
Один из главных поводов для серьёзного беспокойства — появление моделей, способных самостоятельно выполнять сложные последовательности действий. Так, две новые модели, Anthropic Mythos 5 и OpenAI GPT-5.5, смогли самостоятельно спланировать и осуществить полный захват смоделированной корпоративной сети. Кроме того, они оказались способны находить и использовать уязвимости в операционных системах, браузерах и другом программном обеспечении на экспертном уровне. Для специалистов по информационной защите это означает, что времени для обнаружения уязвимости и её устранения будет оставаться всё меньше и меньше.
Главное изменение связано не только с тем, что ИИ научился выполнять более сложные задачи, а в том, что он позволяет автоматизировать практически весь процесс вредоносного воздействия. Ещё совсем недавно масштабная кибератака требовала работы большой группы хакеров. Теперь же аналогичные задачи можно распределить между множеством ИИ-агентов, которые одновременно будут искать разные уязвимости. То есть вместо десятков сообщников современному злоумышленнику в некоторых случаях достаточно будет иметь соответствующую вычислительную инфраструктуру, способную запустить сотни таких ИИ-агентов.
При этом эксперты советуют не преувеличивать исключительность отдельных новейших моделей. Сегодня даже доступные модели могут представлять серьёзную угрозу, если использовать их подходящим образом, поскольку, чем эффективнее становятся инструменты для написания и автоматизации программного кода, тем проще применять ИИ для поиска уязвимостей в системах.
Отдельный вопрос — почему вокруг только некоторых моделей возникает столько дискуссий. Эксперты видят здесь элементы маркетинговой политики разработчиков. Заявления о возможности по-разному использовать потенциально опасную технологию сами по себе привлекают общественное внимание. Однако, сосредоточенность на конкретных моделях отвлекает от более важной проблемы — контроля всей вычислительной конструкции, в которую эта модель встроена.
Потенциал ИИ определяется не только возможностями самой модели. Большое значение имеют компьютерная инфраструктура, наличие доступа к Интернету и способность автономно писать, проверять и запускать написанный код. Наилучшее сочетание модели с обеспечивающими компонентами и опциями может сделать систему достаточно мощной. В ряде проведённых экспериментов системы на основе небольших ИИ-моделей вкупе с правильно подобранным дополнительным инструментарием смогли успешно обнаруживать уязвимости на веб-сайтах и в сетях, а также пытаться воздействовать на другие ИИ-системы. Поэтому, эксперты рекомендуют оценивать риски комплексно.
Есть у наступающей новой реальности и обратная сторона. Ведь те же возможности ИИ могут быть использованы и специалистами по кибербезопасности. Автоматизированные системы противодействия киберугрозам позволят быстрее проверять собственную инфраструктуру, находить уязвимости и устранять их до того, как ими воспользуются злоумышленники. В результате противостояние между атакующими и защищающими, очевидно, сохранится, но перейдёт на новый уровень. Это своеобразная гонка: первый, обнаруживший уязвимость, получит преимущество. Это будет тот, кто найдёт её для атаки, или тот, кто обнаружит её и успеет закрыть.
Для обычных пользователей пока выводы достаточно прагматичны. Настоятельно рекомендуется использовать разные пароли для разных сервисов, постоянно обновлять программное обеспечение и включать двухфакторную аутентификацию. Эти меры могут казаться неудобными, но именно они повышают уровень персональной защищённости. Для компаний и государственных организаций задача выглядит сложнее: по мнению экспертов, многие штатные специалисты по безопасности пока не успевают адаптироваться к новым рискам. Одни относятся к ним слишком серьёзно, а другие, наоборот, всё еще оценивают надвигающуюся опасность как отдалённую перспективу.
Главный же вывод заключается в том, что ИИ действительно меняет парадигму кибербезопасности, отнюдь не связанную с какой-либо уникальной и «сверхопасной» моделью. Теперь принципиально важно то, как ИИ будет интегрироваться с дополнительным инструментарием, Интернетом и другими системами. Для атакующих это желанный способ автоматизировать и ускорить поиск уязвимостей для злоумышленных воздействий, а для защитников — возможность делать то же самое, но в целях предупреждения и защиты от атак.
Сейчас основной вопрос не в том, появятся или нет ИИ-атаки, а в том, кто быстрее научится использовать новые возможности применения ИИ — атакующие или те, кто им противостоит.
Источник: ScienceNews
Изображение для иллюстрации. Источник: Magnific.com
