Хотите более умное понимание в вашем почтовом ящике? Подпишитесь на наши еженедельные информационные бюллетени, чтобы получить только то, что имеет значение для искусственного интеллекта предприятия, данных и лидеров безопасности. Подписаться сейчас
Эксклюзивное интервью VentureBeat с Сэмом Эвансом, CISO из Clearwater Analytics, показывает, почему браузеры предприятия быстро становятся защитой передней линии против Shadow AI во многих его формах.
Эванс столкнулся с критической проблемой в октябре 2023 года. Стоя перед советом Clearwater Analytics, ему пришлось противостоять опасениям, что сотрудники могут непреднамеренно разоблачить данные, которые потенциально могут поставить под угрозу активы фирмы в размере 8,8 триллиона долларов в управлении.
«Худшее из возможных станет один из наших сотрудников, которые берут данные клиента и помещаем их в механизм ИИ, которым мы не управляем», — сказал Эванс VentureBeat. «Сотрудник, не зная ни одного другого, и не пытается решить проблему для клиента… эти данные помогают обучить модель».
Вот наш разговор с Эвансом, отредактированный для длины и ясности
VentureBeat: Как вы видите сегодня кибербезопасность ИИ?
Эванс: Атаки стали значительно более изощренными. Если вы считаете это с точки зрения плохого актера, фишинговые электронные письма и попытки, которые мы получаем, стали намного сложнее. Однако ИИ также обладает возможностями реагирования.
Мне нравится объяснять это на нашу доску, как окончательную игру для кошек и мыши. Поскольку плохие актеры начинают использовать ИИ для продвижения фишинга или, возможно, ускоряют время, необходимое для появления эксплойтов после объявления о уязвимостях, существует противоположная сторона практиков безопасности, использующих ИИ, чтобы помочь продвинуть то, как мы реагируем.
VentureBeat: Как ИИ помогает вашим защитным возможностям?
Эванс: Мы начали интегрировать ИИ в наши пьесы безопасности. Таким образом, наши аналитики безопасности теперь тратят меньше времени на поиск и охоту. ИИ участвует в продукте Центра безопасности (SOC), проводя свой первоначальный анализ сортировки и говорит: «Основываясь на предыдущих вещах, которые мы видели, и вещей в моей модели, именно здесь я хотел бы направить вас».
С другой стороны, мы действительно начинаем видеть, как ИИ вступает в игру. Crowdstrike, Sentinel One, Microsoft Defender, традиционные продукты расширенного обнаружения и ответа (EDR) использовали некоторое машинное обучение, и они достигли вероятности, возможно, на 85%, что это может быть угрозой, но мы не совсем уверены. Тем не менее, ИИ обогащает способность двигателя EDR достигать более высокой вероятности выявления угрозы.
VentureBeat: wШляпа поддерживает вас ночью, когда дело доходит до ИИ и кибербезопасности?
Эванс: То, что меня очень беспокоит, — это глубокие флажки. Вы читаете несколько историй о людях, использующих DeepFakes, чтобы выдать себя за генерального директора, чтобы инициировать проводные переводы. Это касается, потому что они выглядят очень, очень реально.
Но самая большая проблема? Худшим возможным станет один из наших сотрудников, которые берут данные клиента и вкладывают их в механизм ИИ, которым мы не управляем, и тогда это становятся данными, которые помогают обучать модель.
VentureBeat: Как вы объяснили этот риск AI Shadow на вашем доске?
Эванс: Я помню, когда на одном из первых заседаний, на которых я был, они спросили меня: «Так что же вы думаете о Chatgpt?» Я сказал: «Ну, это невероятный инструмент производительности. Однако я не знаю, как мы могли бы позволить нашим сотрудникам использовать его, потому что мой самый большой страх — это кто -то копии и пасты данные о клиентах, или наш исходный код, который является нашей интеллектуальной собственностью».
Но я не просто пришел на доску со своими проблемами и проблемами. Я сказал: «Ну, вот мое решение. Я не хочу помешать людям быть продуктивными, но я также хочу защитить его». Когда я пришел на доску и объяснил, как работают эти браузеры предприятия, они говорят: «Хорошо, это имеет большой смысл, но вы действительно можете это сделать?»
VentureBeat: Пройдите меня через свой процесс оценки и развертывания на острове.
Эванс: После этого заседания совета директоров в октябре 2023 года мы начали довольно длинный процесс должной осмотрительности. Мы посмотрели на некоторых из основных поставщиков в пространстве браузера Enterprise.
В конечном итоге я поделюсь с вами, почему мы пошли с островом. Нам нужно было иметь возможность контролировать то, какие браузеры люди используют в своих конечных точках. Это не приносит пользы для развертывания браузера для предприятия, когда кто -то может пойти и загрузить оперу или «браузер месяца Фрэнка» и использовать его, и он просто обходит все элементы управления острова.
Другая причина, по которой мы пошли с островком, была действительно из -за скорости развертывания. Я помню, как был на звонке с островными продавцами, и они говорят: «Мы считаем, что можем развернуть это в вашей компании за считанные недели». Я как: «О, это БС».
VentureBeat: Но они доставили?
Эванс: Они восприняли это как личный вызов! Мы начали наше развертывание на острове в апреле 2024 года с около 200 человек. Сначала мы пошли по маршруту расширения; Расширение острова в хроме и крае.
Только в июле, когда доска спросил: «Как дела?» И я сказал: «Как насчет того, чтобы просто показать тебе?» Я нанял скриншот, потому что, вы знаете, демонстрации закона Мерфи всегда терпят неудачу. Поэтому я показал им скриншоты: «Вот я на чате. Я пытался что -то вставить. Я получил подсказку:« Политика острова не позволяет вам делать это ».
Они говорят: «Вау, это фантастика! Но люди все еще могут использовать инструмент, чтобы задать хорошие вопросы?» Я сказал: «Да, абсолютно. Они просто не могут вложить в это данные».
VentureBeat: Считаете ли вы, что остров уверяет вас и снижает риск появления AI Shadow?
Эванс: Это определенно помогло нам справиться с AI Shadow. Ни один инструмент безопасности не является идеальным. Развернув остров, мы определенно спим намного проще. Мы можем чувствовать себя достаточно комфортно, что если сотрудник идет в экземпляр AI, который у нас нет лицензированного, он может использовать его, но не может вставить данные или загружать файлы.
Это также помогло нам определить, где у нас есть пробелы. Сотрудники обнаружили, что это действительно отличное виджет искусственного искусства, они приходят в команду безопасности: «Эй, посмотрите, проверьте это». А потом мы можем вернуться к нашим командам разработки продуктов и выяснить, как мы помогаем в этом, не только для наших сотрудников, но и для наших клиентов.
VentureBeat: Как вы защищаете от DeepFakes?
Эванс: Это сложно, чтобы обнять руки. У нас отличная программа осведомленности о безопасности. Мы просим сотрудников использовать здравый смысл. Вы действительно думаете, что Sandeep Sahai, наш генеральный директор, позвонит вам и попросит вас купить подарочные карты Apple?
Мы установили много проверок и балансов, вроде системы проверки приятелей из двух человек. Там нет технологического решения для чего -то подобного. Это человеческая проблема, которую нам пришлось реализовать человеческое решение.
VentureBeat: Какой совет вы бы дали другим CISO, обращенным к теневым AI?
Эванс: Речь идет не только о блокировке, это о мощности. Принесите решения, а не только проблемы. Когда я пришел на доску, я не просто подчеркнул риски; Я предложил решение, которое сбалансировало безопасность с производительностью.
Добро пожаловать в тень AI Arms Race
Понимания Эванса показывают, как быстро Shadow AI стал экзистенциальной угрозой для каждого интенсивного бизнеса.
«Мы видим 50 новых приложений для ИИ в день, и мы уже каталогизировали более 12 000», — сказал VentureBeat, что и Итамар Голан, генеральный директор Homper Security, итамар Голан, количественно определяя то, что команды безопасности называют свой худший кошмар со времен вымогателя.
Натиск несанкционированного использования ИИ и приложений вызвал интенсивную конкуренцию среди поставщиков безопасности. «Большинство традиционных инструментов управления не хватает всесторонней видимости в приложениях ИИ», — объяснил Vineet Arora, технический директор Winwire, определяя именно то, почему Shadow AI процветает, поскольку унаследованные архитектуры безопасности являются слепыми к нему.
Экосистема поставщика кристаллизовалась в четырех разных поля битвы, каждый из которых со своим оружием и слабыми сторонами.
Предприятия браузеры возглавляют заряд. Среди них, главным образом, остров, который недавно собрал раунд финансирования в размере 250 миллионов долларов, что является достоверным голосованием сообщества инвесторов. В то время как остров делает ставки на видимость предварительной инъекции, Google Chrome Enterprise атакует Shadow AI по-разному, вооружая его доминирование на рынке и стек безопасности Google. Chrome Enterprise Premium обеспечивает управление предотвращением потери данных (DLP), которые блокируют потоки данных в CHATGPT и другие инструменты искусственного интеллекта, предотвращают перекрестное загрязнение и обеспечивают сканирование контента в реальном времени. Платформа обнажает шаблоны использования AI Shadow, блокируя как случайные пасты, так и преднамеренную эксфильтрацию. Стратегическое партнерство с Zscaler и Cisco Secure Access усиливает охват Chrome, чтобы создать экосистему, в которой принципы нулевого достопримечательности распространяются непосредственно на взаимодействие ИИ.
Платформы SASE/SSE обеспечивают оборону в масштабе предприятия. Netskope и Zscaler приносят шкалу в Shadow AI Defense через свою облачную архитектуру сервиса по обеспечению безопасности (SASE). Обе платформы ежедневно обрабатывают миллиарды транзакций по глобальной инфраструктурам, поскольку Netskope специально рекламирует его способность мониторинга использования приложений для ИИ на предприятиях. Их ключевое ограничение: когда 73,8% использования CHATGPT на рабочем месте происходит с помощью личных учетных записей, шифрование SSL/TLS предотвращает осматривание содержания платформ, вынуждая их полагаться на схемы трафика и метаданные, что приводит к пробелам видимости, где тени ИИ работает незамеченнымПолем
Традиционные поставщики DLP изо всех сил пытаются адаптироватьПолем Поставщики Legacy Forcepoint и Microsoft Purview имеют сильное наследие, чтобы обменять, когда дело доходит до борьбы с Shadow AI. Forcepoint претендует на 1400 с лишним классификаторов, в то время как Purview использует AI для задач сортировки. Но вот проблема: они модернизируют архитектуры 20-го века для угроз 21-го века. Эти платформы превосходят на флажках соответствия и шаблоны политики, но не в состоянии не отставать от более быстрых темпов ИИ.
Как сказал Дарен, SVP управления продуктом Ivanti по управлению продуктами для UEM сказал Venturebeat: «Инструменты безопасности конечной точки, способствующие AI, могут проанализировать огромные объемы данных для обнаружения аномалий и прогнозировать потенциальные угрозы быстрее и более точно, чем любой аналитик человека». Традиционный DLP работает со скоростью аудита. Shadow AI движется на скорости машины.
Специализированные решения заполняют критические пробелыПолем Инновации процветают в нишах, которые игнорируют унаследованные поставщики. Одним из примеров являются нейроны Ivanti, которые обеспечивают всеобъемлющее обнаружение устройства через свою платформу UEM, обнажая Shadow AI, скрываясь в конечных точках, которые пропускают традиционные инструменты. Майк Ример, полевой CISO от Иванти, видит более широкую картину: «Специалисты по безопасности будут эффективно использовать возможности Gen AI для анализа огромных объемов данных, собранных в различных системах». Nightfall, со своей стороны, нацеливается на команды разработчиков с моделями трансформатора, заявляя о точности обнаружения 2x для инструментов AI на основе API.
Сравнение решений обороны Shadow AI
| Продавец | Тип | Ключевые сильные стороны | Ограничения | Лучше всего для |
| Проверьте гармонию | Расширение браузера | Использует существующую инфраструктуру | Ограничено расширением | Проверьте клиенты |
| Щипца | Традиционный DLP | 1700+ классификаторов, соблюдение нормативных требований | Устаревшая архитектура | Высокорегулируемые отрасли |
| Google Chrome Enterprise | Предприятие браузер | Доминирование на рынке, родная интеграция | Менее специализированные элементы управления | Google Workspace организации |
| Остров | Предприятие браузер | Видимость предварительной инфекции, нулевая задержка, быстрое развертывание | Более высокая стоимость на пользователя | Предприятия с конфиденциальными данными |
| Нейроны Иванти | UEM Platform | Комплексное обнаружение устройства | Не специфичный для браузера | Фокус управления активами |
| Microsoft Purview | DLP платформа | Нативная интеграция Microsoft, сортировка с AI, сортировка | Microsoft-центр | Microsoft 365 Enterprises |
| Netskope | Платформа SASE/SSE | Комплексное покрытие, мониторинг приложений приложения 370+ | Сложность после заклинания | Крупные распределенные предприятия |
| Вечер | AI-Native DLP | Точность обнаружения 2x, модели трансформаторов | Подход только API | Команды, ориентированные на разработчиков |
| Talon Cyber Security | Предприятие браузер | Опции браузера + расширения | Новее на рынок | Security-Scess SMB |
| Zscaler | Платформа SASE/SSE | 536b ежедневные транзакции, истинный нулевой достопримечательность | Облачный подход | Облачные организации |
VentureBeat Анализ
Что заставляет рынок так быстро двигаться? Анализ Venturebeat обнаружил, что 74 500 с лишним приложений Shadow AI активно развернуты только в крупных консалтинговых фирмах, и это растет на 5% в месяц. К середине 2026 года это число может достичь 160 000. Каждый представляет собой потенциальное нарушение данных, нарушение соответствия или утечку конкурентной разведки.
Рецепт Ароры сокращается через шумиху поставщика: «Организации должны определять стратегии с надежной безопасностью, позволяя сотрудникам эффективно использовать технологии искусственного интеллекта. Общие запреты часто стимулируют использование ИИ под землей, что только увеличивает риски».
Источник
