Блог

Aug 20, 2023

Генеративный ИИ: друг и враг кибербезопасности

Кража личных данных с помощью концепции ноутбука для компьютерного хакера, сети

Кража личных данных с помощью концепции ноутбука для компьютерного хакера, сетевой безопасности и электронной банковской безопасности ... [+]

Очевидно, что искусственный интеллект вышел за рамки просто любопытства будущего, поскольку инструменты генеративного ИИ, такие как чат-бот OpenAI ChatGPT, генератор изображений DALL-E2 и виртуальные компаньоны CarynAI и Replika, перенимаются всеми одинокими людьми, вовлеченными в виртуальные любовные отношения. людям, создающим вдохновляющие фотографии для своего профиля в социальных сетях. Что касается бизнеса, руководители предвидят влияние генеративного искусственного интеллекта на свои компании в таких различных областях, как анализ данных, обслуживание клиентов, организация поездок, маркетинг и написание кода.

В мире кибербезопасности искусственный интеллект вызывает не меньше шума. Конференция RSA — крупнейшая конференция по кибербезопасности в мире. На мероприятии, состоявшемся в Сан-Франциско в апреле, были представлены взгляды правительственных чиновников на риски и преимущества искусственного интеллекта из Агентства кибербезопасности и безопасности инфраструктуры США (CISA), Агентства национальной безопасности (АНБ) и Национального управления по аэронавтике и исследованию космического пространства (НАСА). и другие. На той же конференции Google анонсировала свою новую рабочую среду Google Cloud Security AI Workbench на базе искусственного интеллекта, которая использует преимущества достижений в области больших языковых моделей (LLM). Также на RSA компания SentinelOne анонсировала свою платформу обнаружения угроз кибербезопасности на базе искусственного интеллекта с автономным реагированием в масштабе всего предприятия, которая использует преимущества этих достижений, а Veracode анонсировала Veracode Fix, которая использует генеративный искусственный интеллект для рекомендации исправлений ошибок безопасности в коде.

Соучредитель и генеральный директор SentinelOne Томер Вайнгартен

Томер Вайнгартен — соучредитель и генеральный директор SentinelOne, ведущей компании в области кибербезопасности, среди клиентов которой есть Hitachi, Samsung и Politico. Он объясняет, что генеративный искусственный интеллект может помочь решить самые большие проблемы кибербезопасности сейчас: сложность, поскольку большинство людей не знают о методологии и инструментах, необходимых для защиты и противодействия кибератакам; и нехватка талантов, вызванная высоким входным барьером, вызванным очень высокой квалификацией, необходимой для работы в этой области.

«ИИ очень масштабируем для решения всех этих проблем, и мы продемонстрировали способность отказаться от необходимости использования сложных языков запросов, сложных операций и обратного проектирования, чтобы теперь позволить даже аналитику начального уровня использовать генеративный ИИ. алгоритм, который может автоматически запускаться за кулисами для перевода на английский или другие языки для предоставления информации, а также применять автоматические действия для устранения возникающих проблем», — сказал Вайнгартен. «Это полностью меняет подход к обеспечению кибербезопасности, убирая сложность и позволяя каждому аналитику быть супераналитиком. Это почти как если бы вы давали им сверхспособности делать то, на что им обычно требовалось несколько дней, а сейчас это можно сделать за секунды». Это настоящий мультипликатор силы».

Другая большая проблема в кибербезопасности, которую решает генеративный ИИ, по мнению Вайнгартена, заключается в том, что индустрия кибербезопасности построена на дискретных, разрозненных продуктах, каждый из которых предназначен для решения определенного аспекта киберзащиты. «Настоящий прорыв в использовании ИИ в сфере кибербезопасности происходит благодаря объединению всех этих данных в одно центральное хранилище», — сказал он. «А затем, когда вы примените свои алгоритмы ИИ поверх этого озера данных, вы сможете увидеть сложные корреляции между всеми этими различными элементами, которые сегодня используются в защите кибербезопасности. В этих проблемах, требующих большого объема данных, ИИ позволяет вам стать невероятно опытными в поиске иголка в стоге сена."

Брайан Рош, директор по продуктам компании Veracode, занимающейся безопасностью приложений.

Брайан Рош, директор по продуктам компании Veracode, занимающейся безопасностью приложений, объясняет вредоносную сторону ИИ в кибербезопасности. «Хакеры используют ИИ для автоматизации атак, обхода систем обнаружения и даже создания вредоносного ПО, которое может мутировать в режиме реального времени», — сказал Рош. «Более того, на форумах даркнета уже полно дискуссий о том, как использовать генеративные платформы искусственного интеллекта, такие как ChatGPT, для осуществления целевых фишинговых атак и атак социальной инженерии».