Хотите более умное понимание в вашем почтовом ящике? Подпишитесь на наши еженедельные информационные бюллетени, чтобы получить только то, что имеет значение для искусственного интеллекта предприятия, данных и лидеров безопасности. Подписаться сейчас
По мере того, как приложения AI все чаще проникают в предприятия, от улучшения ухода за пациентами до передовой медицинской визуализации до моделей выявления мошенничества в комплексе и даже помогают сохранению дикой природы, часто появляется критическое узкое место: хранение данных.
Во время преобразования Venturebeat 2025 года Грег Мэтсон, руководитель отдела продуктов и маркетинга, Solidigm и Roger Cummings, генерального директора Peak: AIO поговорил с Майклом Стюартом, управляющим партнером M12 о том, как инновации в технологиях хранения позволяют использовать в здравоохранении.
Структура Monai — это прорыв в медицинской визуализации, строительство его быстрее, более безопасно и надежно. Достижения в области технологий хранения — это то, что позволяет исследователям строить на вершине этой структуры, быстро итерации и инновации. Пик: AIO в партнерстве с SolidGM для интеграции энергосберегающих, эффективных и высоких хранилищ, что позволило Monai хранить более двух миллионов компьютерных сканирований на одном узле в их ИТ-среде.
«Поскольку инфраструктура AI Enterprise быстро развивается, аппаратное обеспечение для хранения все чаще необходимо адаптировать к конкретным вариантам использования, в зависимости от того, где они находятся в конвейере данных AI», — сказал Мэтсон. «Тип использования, о котором мы говорили с Monai, с помощью корпуса, а также кормления обучающего кластера, хорошо обслуживаемые решения для хранения с очень высокой капотацией, но фактическое выводы и модельное обучение нуждаются программное обеспечение.»
Улучшение вывода ИИ на краю
Для пиковой производительности на краю очень важно масштабировать хранение до одного узла, чтобы приблизить вывод ближе к данным. И что является ключом, так это удаление узких мест памяти. Это можно сделать, сделав память частью инфраструктуры ИИ, чтобы масштабировать ее вместе с данными и метаданными. Близость данных для вычисления значительно увеличивает время до понимания.
«Вы видите все огромные развертывания, большие центры обработки данных Green Field для искусственного интеллекта, используя очень специфические аппаратные конструкции, чтобы иметь возможность подключить данные как можно ближе к графическим процессорам», — сказал Мэтсон. «Они создавали свои центры обработки данных с очень высоким содержанием хранения с очень высокой емкостью, чтобы донести хранилище на уровне петабайта, очень доступное на очень высоких скоростях, к графическим процессорам. Теперь та же технология происходит в микрокосме на графическом корпорации».
Для покупателей систем искусственного интеллекта становится решающимся, чтобы убедиться, что вы получаете максимальную производительность из своей системы, запустив ее во всех твердотельных состояниях. Это позволяет вам приносить огромные объемы данных и обеспечивает невероятную мощность обработки в небольшой системе на краю.
Будущее аппаратного обеспечения AI
«Крайне важно, чтобы мы предоставили открытые, масштабируемые, масштабируемые решения, используя некоторые из последних и лучших технологий для этого», — сказал Каммингс. «Это наша цель как компании, чтобы обеспечить эту открытость, эту скорость и масштаб, в котором нуждаются организации. Я думаю, что вы увидите, что экономика также соответствует этому».
Для общего трубопровода данных и вывода, а также в самом выводе, потребности в аппаратном обеспечении будут расти, будь то очень высокоскоростное SSD или очень высокое решение, которое эффективно.
«Я бы сказал, что он будет двигаться еще дальше к очень высокой емкости, будь то однопитабайтный SSD через пару лет, который работает с очень низкой мощностью и может в основном заменить в четыре раза больше жестких дисков, или продукт с очень высоким показателем, который почти близок к скорости памяти»,-сказал Мэтсон. «Вы увидите, что крупные поставщики графических процессоров смотрят, как определить следующую архитектуру хранения, так что она может очень близко увеличить HBM в системе. То, что было в общем назначении в облачных вычислениях, теперь разбивается в емкость и производительность. Мы будем продолжать делать это в обоих направлениях в течение следующих пять или 10 лет».
Источник