Присоединяйтесь к событию, которым доверяют лидеры предприятия в течение почти двух десятилетий. VB Transform объединяет людей, строящих реальную стратегию ИИ предприятия. Узнать больше
В частности, в эту зажатую эру генеративного ИИ, облачные затраты находятся на рекордно высоком уровне. Но это не только потому, что предприятия используют больше вычислений — они не используют его эффективно. На самом деле, только в этом году предприятия должны тратить 44,5 миллиарда долларов на ненужные расходы на облачные.
Это усиленная проблема для Akamai Technologies: компания имеет большую и сложную облачную инфраструктуру на нескольких облаках, не говоря уже о многочисленных строгих требованиях безопасности.
К Решить это, поставщик кибербезопасности и доставки контента обратился к платформе автоматизации Kubernetes Cast AI, чьи агенты искусственного интеллекта помогают оптимизировать стоимость, безопасность и скорость в облачных средах.
В конечном счете, платформа помогла Akamai сократить от 40% до 70% облачных затрат, в зависимости от рабочей нагрузки.
«Нам нужен был постоянный способ оптимизировать нашу инфраструктуру и сократить наши облачные затраты, не жертвуя производительностью», — сказал VentureBeat, Dekel Shavit, старший директор Cloud Engineering в Akamai. «Мы те, которые обрабатывают события безопасности. Задержка не вариант. Если мы не можем ответить на атаку безопасности в режиме реального времени, мы потерпели неудачу».
Специализированные агенты, которые контролируют, анализируют и действуют
Kubernetes управляет инфраструктурой, которая запускает приложения, облегчая развертывание, масштабирование и управление ими, особенно в облачных коренных и микросервисах.
Cast AI интегрировался в экосистему Kubernetes, чтобы помочь клиентам масштабировать свои кластеры и рабочие нагрузки, выбрать лучшую инфраструктуру и управлять вычислительными жизненными циклами, объяснил основатель и генеральный директор Лоурента Гила. Его основной платформой является автоматизация производительности приложений (APA), которая работает через команду специализированных агентов, которые постоянно контролируют, анализируют и предпринимают действия для повышения производительности, безопасности, эффективности и стоимости приложений. Компании предоставляют только то, что им нужно от AWS, Microsoft, Google или других.
APA оснащена несколькими моделями машинного обучения (ML) с обучением подкрепления (RL) на основе исторических данных и изученных моделей, улучшенных стеком наблюдений и эвристики. Он в сочетании с инструментами инфраструктуры как кода (IAC) на нескольких облаках, что делает его полностью автоматизированной платформой.
Гил объяснил, что APA была построена на принципе, что наблюдаемость является лишь отправной точкой; Как он назвал это, наблюдаемость — это «фундамент, а не цель». Cast AI также поддерживает постепенное внедрение, поэтому клиентам не нужно вырывать и заменять; Они могут интегрироваться в существующие инструменты и рабочие процессы. Кроме того, ничто никогда не оставляет инфраструктуры клиента; Весь анализ и действия происходят в их выделенных кластерах Kubernetes, обеспечивая большую безопасность и контроль.
Гил также подчеркнул важность ориентированности на человека. «Автоматизация дополняет процесс принятия решений человеком»,-сказал он, а APA поддерживает рабочие процессы человека в среднем уровне.
Уникальные проблемы Акамай
Шавит объяснил, что крупная и сложная облачная инфраструктура Akamai и услуги по предоставлению кибербезопасности и услуги кибербезопасности, предоставляемые «некоторым из самых требовательных клиентов и отраслей в мире», в соответствии со строгими соглашениями об уровне обслуживания (SLA) и требованиях к производительности.
Он отметил, что для некоторых услуг, которые они потребляют, они, вероятно, являются крупнейшими клиентами для своего поставщика, добавив, что они сделали «тонны основного инженера и реинжиниринг» со своим гиперскладером в соответствии с их потребностями.
Кроме того, Akamai обслуживает клиентов различных размеров и отраслей, включая крупные финансовые учреждения и компании по кредитным картам. Услуги компании напрямую связаны с осанкой ее клиентов.
В конечном счете, Акамаи нужно было сбалансировать всю эту сложность с стоимостью. Шавит отметил, что реальные атаки на клиентов могут способствовать емкости в 100 раз или 1000x на определенные компоненты своей инфраструктуры. Но «масштабирование нашей облачной емкости в 1000 раз заранее просто невозможнее», — сказал он.
Его команда рассмотрела оптимизацию на кодовой стороне, но неотъемлемая сложность их бизнес -модели требовала сосредоточения внимания на самой основной инфраструктуре.
Автоматически оптимизация всей инфраструктуры Kubernetes
Акамай действительно нуждалась в платформе автоматизации Kubernetes, которая могла бы оптимизировать затраты на запуск всей своей основной инфраструктуры в режиме реального времени на нескольких облаках, объяснил Шавит и масштабируйте приложения вверх и вниз, основываясь на постоянно меняющемся спросе. Но все это должно было быть сделано без жертвоприношения применения.
Прежде чем внедрить актерский состав, Шавит отметил, что команда Devops Akamai вручную настроила все свои рабочие нагрузки Kubernetes всего несколько раз в месяц. Учитывая масштаб и сложность его инфраструктуры, она была сложной и дорогостоящей. Только анализируя рабочие нагрузки спорадически, они явно упустили любой потенциал оптимизации в реальном времени.
«Теперь сотни актеров делают одну и ту же настройку, за исключением того, что они делают это каждую секунду каждого дня», — сказал Шавит.
Основными характеристиками APA используются Akamai, которые являются автоматической автоматизацией Kubernetes с упаковкой бин (минимизация количества используемых бункеров), автоматический выбор наиболее экономически эффективных вычислительных экземпляров, правонарушения рабочей нагрузки, автоматизации экций на протяжении всего жизненного цикла экземпляра и анализа затрат.
«Мы получили представление об аналитике затрат через две минуты после интеграции, чего мы никогда раньше не видели», — сказал Шавит. «После того, как активные агенты были развернуты, оптимизация включена автоматически, и сбережения начали появляться».
Точечные экземпляры — где предприятия могут получить доступ к неиспользованной облачной способности по дисконтированным ценам — очевидно, имело деловой смысл, но они оказались сложными из -за сложных рабочих нагрузок Акамай, особенно Apache Spark, отметил Шавит. Это означало, что им нужно было либо превышать рабочие нагрузки, либо приложить на них больше рабочих рук, что оказалось финансово нелогичным.
С актерским искусственным искусством они смогли использовать точечные экземпляры на Spark с «нулевыми инвестициями» от инженерной группы или операций. Ценность точечных экземпляров была «супер ясной»; Им просто нужно было найти подходящий инструмент, чтобы иметь возможность их использовать. Это была одна из причин, по которой они продвинулись вперед с актером, отметил Шавит.
При сохранении 2x или 3 раза в их облачном счете великолепно, Шавит отметил, что автоматизация без ручного вмешательства «бесценна». Это привело к «массивной» экономии времени.
Прежде чем внедрить Cast AI, его команда «постоянно перемещалась по ручкам и переключателям», чтобы гарантировать, что их производственные среды и клиенты соответствуют услуге, в которую они нуждались для инвестирования.
«Вручную самым большим преимуществом был тот факт, что нам больше не нужно управлять нашей инфраструктурой», — сказал Шавит. «Команда агентов CAST сейчас делает это для нас. Это освободило нашу команду, чтобы сосредоточиться на том, что больше всего важно: быстрее выпуска функций для наших клиентов».
Примечание редактора: в этом месяце VB Transform Google Cloud CTO Уилл Граннис и Highmark Health SVP и директор по аналитике Ричард Кларк обсудит новый стек ИИ в здравоохранении и реальные проблемы развертывания многомодельных систем ИИ в сложной, регулируемой среде. Зарегистрируйтесь сегодня.
Источник
