admin

Принятие стандартов совместимости, таких как протокол контекста модели (MCP), может дать предприятиям представление о том, как агенты и модели функционируют за пределами своих стен. Тем не менее, многие тесты не могут отразить реальные взаимодействия с MCP.

Salesforce AI Research разработала новый эталонный эталон с открытым исходным кодом, который он называет MCP-Universe, который направлен на отслеживание LLM, поскольку они взаимодействуют с серверами MCP в реальном мире, утверждая, что оно будет нарисовать лучшую картину реальных и в реальном времени взаимодействия моделей с инструментами, которые фактически используют предприятия. В своем первоначальном тестировании он обнаружил, что такие модели, как недавно выпущенный GPT-5 от Openai, сильны, но все еще не работают так хорошо в реальных сценариях.

«Существующие показатели преимущественно сосредотачиваются на изолированных аспектах производительности LLM, таких как следующие инструкции, математические рассуждения или функциональные призывы, не предоставляя всестороннюю оценку того, как модели взаимодействуют с реальными серверами MCP в разных сценариях»,-сказал Salesforce в статье.

MCP-Universe захватывает производительность модели с помощью использования инструментов, вызовов для инструментов с несколькими поворотами, длинных контекстных окон и больших инструментов. Он основан на существующих серверах MCP с доступом к фактическим источникам данных и средам.

Джуннан Ли, директор по искусственному искусству в Salesforce, сказал Venturebeat, что многие модели «все еще сталкиваются с ограничениями, которые сдерживают их на задачах предприятия».

«Два из самых больших: длинные проблемы контекста, модели могут потерять отслеживание информации или бороться с тем, чтобы последовательно рассуждать при обращении с очень длинными или сложными входами», — сказал Ли. «И, неизвестные проблемы с инструментами, модели часто не в состоянии беспрепятственно использовать незнакомые инструменты или системы в том, как люди могут адаптироваться на лету. Вот почему очень важно не придерживаться подхода DIY с одной моделью к властным агентам, но вместо этого, чтобы полагаться на платформу, которая объединяет контекст данных, расширил разум и доверие охранников, чтобы действительно удовлетворить потребности в Enterprize AI.

MCP-Universe присоединяется к другим предлагаемым показателям на основе MCPнапример, MCP-Radar из Университета Массачусетса Амхерст и Университет Xi’an Jiaotong, а также Пекинский университет сообщений и телекоммуникаций ‘McPworld. Он также основан на McPevals, который Salesforce выпустил в июле, который фокусируется в основном на агентах. Ли сказал, что самая большая разница между MCP-Universe и McPevals заключается в том, что последний оценивается с помощью синтетических задач.

Как это работает

MCP-Universe оценивает, насколько хорошо каждая модель выполняет серию задач, которые имитируют тех, кто предпринимается предприятиями. Salesforce заявил, что разработал MCP-Universe для включения шести основных доменов, используемых предприятиями: навигация по местоположению, управление репозиториями, финансовый анализ, 3D-дизайн, автоматизация браузеров и поиск в Интернете. Он получил 11 серверов MCP в общей сложности 231 задачи.

• Навигация на местоположении фокусируется на географических рассуждениях и выполнении пространственных задач. Исследователи нажали на сервер MCP Google MAPS для этого процесса.
• Домен управления репозиторием рассматривает операции CodeBase и подключается к GitHub MCP, чтобы выявить инструменты управления версиями, такие как поиск, отслеживание проблем и редактирование кода.
• Финансовый анализ подключается к серверу MCP Yahoo Finance для оценки количественных рассуждений и принятия решений на рынке финансового рынка.
• 3D Design оценивает использование компьютерных инструментов проектирования через Blender MCP.
• Автоматизация браузера, подключенная к Playwright’s MCP, тестирует взаимодействие браузера.
• В домене веб-поиска используется сервер Google Search MCP и Fetch MCP для проверки «поиск информации о открытой области» и структурирован как более открытая задача.

Salesforce сказал, что ему приходилось разработать новые задачи MCP, которые отражают реальные варианты использования. Для каждого домена они создали четыре -пять видов задач, которые исследователи считают, что LLM могут легко выполнить. Например, исследователи присвоили моделям цель, которая включала планирование маршрута, определение оптимальных остановок, а затем местонахождение пункта назначения.

Каждая модель оценивается на то, как они выполнили задачи. Ли и его команда решили следовать основанной на выполнении парадигмы оценки, а не более распространенной системой LLM-как-сустава. Исследователи отметили, что парадигма LLM-As-a-Judge «не подходит для нашего сценария MCP-Universe, поскольку некоторые задачи предназначены для использования данных в реальном времени, в то время как знание судьи LLM является статичным».

Исследователи Salesforce использовали три типа оценщиков: оценщики формата, чтобы увидеть, следуют ли агенты и модели требованиям формата, статические оценщики для оценки правильности с течением времени и динамических оценщиков для колеблющихся ответов, таких как цены на полеты или проблемы Github.

«MCP-Universe фокусируется на создании сложных реальных задач с оценщиками, основанными на выполнении, которые могут подчеркнуть агента в сложных сценариях. Кроме того, MCP-Universe предлагает расширенную структуру/кодовую базу для построения и оценки агентов»,-сказал Ли.

Даже у крупных моделей проблемы

Чтобы проверить MCP-Universe, Salesforce оценил несколько популярных проприетарных моделей и моделей с открытым исходным кодом. These include Grok-4 from xAI, Anthropic’s Claude-4 Sonnet and Claude 3.7 Sonnet, OpenAI’s GPT-5, o4-mini, o3, GPT-4.1, GPT-4o, GPT-oss, Google’s Gemini 2.5 Pro and Gemini 2.5 Fkash, GLM-4.5 from Zai, Moonshot’s Kimi-K2, Qwen’s Qwen3 Coder and QWEN3-235B-A22B-Instruct-2507 и Deepseek-V3-0304 от DeepSeek. Каждая протестированная модель имела не менее 120b параметры.

В своем тестировании Salesforce обнаружил, что GPT-5 имел лучший показатель успеха, особенно для задач финансового анализа. Грок-4 последовал за тем, как забивая все модели для автоматизации браузеров, и Sonnet Claude-4.0 выпускает тройку лучших, хотя он не опубликовал какие-либо числа производительности выше, чем любая из моделей, которые она следует. Среди моделей с открытым исходным кодом GLM-4.5 выполнил лучшее.

Тем не менее, MCP-Universe показал, что у моделей возникла трудности с обработкой длинных контекстов, особенно для навигации по местоположению, автоматизации браузеров и финансового анализа, причем эффективность значительно снизилась. В тот момент, когда LLMS столкнулся с неизвестными инструментами, их производительность также падает. LLM продемонстрировали трудности в выполнении более половины задач, которые обычно выполняют предприятия.

«Эти выводы подчеркивают, что нынешние Frontier LLM по-прежнему терпят неудачу в надежном выполнении задач по различным реальным задачам MCP. Таким образом, наш эталон MCP-Universe обеспечивает сложный и необходимый тестовый стенд для оценки производительности LLM в областях, недооцененных существующими ориентирами»,-говорится в статье.

Ли сказал VentureBeat, что он надеется, что предприятия будут использовать MCP-Universe, чтобы получить более глубокое понимание того, где агенты и модели терпят неудачу в задачах, чтобы они могли улучшить свои рамки или реализацию своих инструментов MCP.

Я был на большее собраниях сегодня, чем обычно, поэтому я просто догнал тот факт, что Утекать, а Канадский стартап соучредил бывшим автором Transformer Paper Aidan Gomez и ориентирован на создание продуктов генеративного искусственного интеллекта, мощно и надежно для предприятий, Выпустил свою первую аргументированную модель с большой языком (LLM), приводил в пользу аргументации.

Это выглядит сильным выпуском. Бесчфы, технические характеристики и ранние тесты предполагают, что модель обеспечивает гибкость, эффективность и необработанную мощность рассуждений.

Обслуживание клиентов, исследование рынка, планирование, анализ данных — некоторые из задач, которые Cohere заявляет, что он создан для автоматического обращения в масштабе внутри внутри Безопасные корпоративные среды.

Однако это модель только для текста, но она должна быть достаточно просто, чтобы подключиться к мультимодальным моделям и инструментам. На самом деле, использование инструментов является одним из основных точек продажи.

Несмотря на то, что исследователи открыты для использования в некоммерческих целях, предприятия должны будут платить COURE, чтобы получить доступ, и компания публично не перечисляет свои цены, потому что в нем говорится, что это делает индивидуальную настройку и частное развертывание.

Cohere был оценен в 6,8 миллиарда долларов Когда он объявил о своем последнем раунде финансирования в размере 500 миллионов долларов в неделю и день назад.

Настраивается на предприятия

Команда. Рассуждение настроено для предприятий с разрывающимися библиотеками документов, длинными цепочками электронной почты и рабочими процессами, которые не могут позволить себе галлюцинации.

Он поддерживает 256 000 токенов На установках с несколькими GPU приличный размер и сопоставимый с GPT-5 OpenAI.

Выпуск исследования весит на 111 миллиарда параметров, обученный с учетом использования инструментов и многоязычной производительности.

Он поддерживает 23 языка из коробки, включая английский, французский, испанский, японский, арабский и хинди. Эта многоязычная глубина является ключом для глобальных предприятий, которые требуют постоянного качества агента на разных рынках.

Модели слоты прямо в СеверНовая платформа Cohere для развертывания агентов ИИ и автоматизаций.

Это означает, что предприятия могут раскручивать пользовательские агенты, которые живут полностью в их инфраструктуре, предоставляя им контроль над потоками данных, все еще используя расширенные рассуждения.

Cohere выглядит так, как будто он умно и стратегически думал о выявлении некоторых повторяющихся функций на всех предприятиях — адаптация, исследования рынка и анализ, разработка — и обучил свою модель для поддержки своих агентских рабочих процессов для автоматического обращения с ними.

Контролируемое мышление

Как и во многих других недавних выпусках рассуждений, включая новую nvidia nemotron-nano-9b-v2, приказывает армию, вводя функцию бюджета токена, чтобы позволить пользователям или разработчикам указывать, сколько рассуждений распределять с конкретными входами и задачами. Меньший бюджет означает быстрее, дешевые ответы. Больше бюджета означает более глубокие, более точные рассуждения.

Освобождение об объятиях даже раскрывает этот компромисс напрямую: рассуждения могут переключаться в или выключать через простой параметр.

Разработчики могут запустить модель в «Режиме рассуждения» для максимальной производительности или выключить ее для задач с более низкой задержкой — без изменения моделей.

Превосходно на предприятиях предприятия

Так как же это работает на практике? Цитрицы Cohere рисуют четкую картину.

На предприятиях рассуждения, Рассуждения постоянно опережают, как сверстники, такие как Deepseek-R1 0528, GPT-OS-120B и Mistral Magistral Medium.

Он обрабатывает многоязычные тесты с одинаковой силой, важные для глобальных предприятий.

Система бюджета токена — это не просто трюк. В сравнении с предыдущим Командование а Модель, оценки удовлетворения неуклонно поднимались по мере увеличения бюджета. Даже с минимальными рассуждениями «мгновенных» рассуждений, рассуждений о том, как его предшественник. При более высоких бюджетах он вышел дальше.

История такая же в глубоких исследованиях. На DeepResearch STEAD — Какое измеряет инструкции, читаемость, понимание и полноценность — Система Cohere вышла на первое место против предложений от Gemini, OpenAI, антропного, недоумения и Грока Xai.

Модель преуспела в превращении растягивающихся вопросов в отчеты, которые не только подробно, но и читаемые, являются ключевой проблемой в работе по знаниям предприятия.

Фокус на использование инструментов и агентские рабочие процессы

Помимо тестов, модель подключена к действию. Обученные его специально для разговорного использования инструментов — позволяя ему вызовать API, подключаться к базам данных или запросить внешние системы во время задачи.

Разработчики могут определять инструменты с помощью схемы JSON и подавать их в шаблоны чата в трансформаторах, что облегчает интеграцию модели в существующие корпоративные системы.

Этот дизайн поддерживает cБольшая ставка Ohere о агентских рабочих процессах: системы ИИ, состоящие из нескольких скоординированных агентов, каждый из которых обрабатывает кусок большей работы.

Командование Аспирация — это механизм рассуждений, который сохраняет эти рабочие процессы последовательными и по заданию.

Безопасность: построена для работы с высокими ставками

Cohere также является безопасностью подачи в качестве центральной функции. Модель iS обучен, чтобы избежать общей головной боли предприятия чрезмерной повторной деятельности- Когда ИИ отвергает законные запросы из осторожности — пока Все еще фильтровать вредный или злонамеренный контент.

Оценки Сосредоточены на пяти категориях высокого риска: безопасность детей, самоповреждение, насилие и ненависть, явные теории и теории заговора.

Для компаний, стремящихся развернуть ИИ в регулируемых отраслях или конфиденциальных областях, этот баланс предназначен для того, чтобы сделать модель более практичной в повседневных операциях.

Ранний бай-ин зал в крупных предприятиях

SAP SE является одним из первых крупных партнеров, которые интегрировали модель. Доктор Уолтер Сан, SVP и глобальный руководитель искусственного интеллекта, сказал, что сотрудничество расширит генеративные возможности AI SAP на платформе SAP Business Technology. Для клиентов это означает агентские приложения, которые могут быть настроены для удовлетворения потребностей предприятия.

Доступность и лицензирование

Команда. Причина теперь доступна на платформе Cohere, и для исследований использования об объятиях.

Репозиторий об объятиях обнимающего лица обеспечивает открытые веса для исследований по лицензии CC-By-NC, требуя от пользователей обмениваться контактной информацией и придерживаться приемлемого политики использования.

Предприятия, заинтересованные в коммерческих или частных развертываниях, могут связаться с отделом продаж Cohere для представленных ценообразования.

Для предприятий тона является простым: одна модель, несколько режимов развертывания, мелкозернистый контроль над производительностью, многоязычные возможности, интеграция инструментов и контрольные результаты, которые предполагают, что он превзойдет своих сверстников.

Наиболее широко цитируемая статистика из нового отчета MIT была глубоко неправильно понята. В то время как заголовки трубыруют, что «95% генеративных пилотов ИИ в компаниях терпят неудачу», отчет фактически раскрывает нечто гораздо более замечательное: самое быстрое и наиболее успешное внедрение технологий предприятия в корпоративной истории происходит прямо при носах руководителей.

Исследование, опубликованное на этой неделе проектом MIT Nanda, вызвало беспокойство в социальных сетях и бизнес -кругах, и многие интерпретируют его как доказательство того, что искусственный интеллект не может выполнить свои обещания. Но более близкое чтение отчета на 26 страницах рассказывает совершенно другую историю-одну из беспрецедентных массовых технологий, которые тихо произвели революцию в работе, в то время как корпоративные инициативы спотыкаются.

Исследователи обнаружили, что 90% сотрудников регулярно используют личные инструменты искусственного интеллекта для работы, хотя только 40% их компаний имеют официальные подписки на ИИ. «В то время как только 40% компаний говорят, что они приобрели официальную подписку LLM, работники из более чем 90% опрошенных нами компаний сообщили, что регулярное использование персональных инструментов ИИ для рабочих задач», — объясняет исследование. «На самом деле, почти каждый человек использовал LLM в той или иной форме для своей работы».

Как сотрудники взломали код ИИ, в то время как руководители наткнулись

Исследователи MIT обнаружили то, что они называют «теневой экономикой искусственного интеллекта», где работники используют личные учетные записи CHATGPT, подписки Claude и другие потребительские инструменты для обработки значительных частей своей работы. Эти сотрудники не просто экспериментируют — они используют «Многочисленные времена в день в день в день своей еженедельной рабочей нагрузки», — показало исследование.

Это подземное принятие опередило раннее распространение электронной почты, смартфонов и облачных вычислений в корпоративных средах. Корпоративный адвокат, цитируемый в отчете MIT, показал модель: ее организация инвестировала 50 000 долл. США в специализированный инструмент анализа контрактов с искусственным интеллектом, однако она последовательно использовала CHATGPT для разработки работы, потому что «основная разница в качестве заметна. CHATGPT постоянно производит лучшие результаты, даже если наш поставщик утверждает, что использует ту же основополагающую технологию».

Паттерн повторяется в разных отраслях. Корпоративные системы описываются как «хрупкие, перегруженные или смещенные с реальными рабочими процессами», в то время как потребительские инструменты ИИ получают похвалу за «гибкость, знакомство и немедленную полезность». Как сказал один из главных информационных сотрудников: «Мы видели десятки демонстраций в этом году. Может быть, один или два — действительно полезны. Остальные — это обертки или научные проекты».

Почему инструменты корпоративных корпоративных инструментов в размере 50 000 долларов США теряют до 20 долларов США.

95% частота отказов, которая доминировала в заголовках, применяется специально для пользовательских решений для ИИ предприятия — дорогостоящей комиссии по системным компаниям от поставщиков или строительства. Эти инструменты терпят неудачу, потому что им не хватает того, что исследователи MIT называют «возможности обучения».

Большинство корпоративных систем искусственного интеллекта «не сохраняют обратную связь, адаптируются к контексту или не улучшаются с течением времени», — показало исследование. Пользователи жаловались на то, что корпоративные инструменты «не учитываются из наших отзывов» и требуют «слишком много ручного контекста, требуемого каждый раз».

Потребительские инструменты, такие как CHATGPT, добиваются успеха, потому что они чувствуют себя отзывчивыми и гибкими, даже если они сбрасываются с каждым разговором. Корпоративные инструменты кажутся жесткими и статичными, требуя обширной настройки для каждого использования.

Разрыв в обучении создает странную иерархию в предпочтениях пользователей. Для быстрой задачи, таких как электронные письма и базовый анализ, 70% работников предпочитают ИИ по сравнению с коллегами -людьми. Но для сложной работы с высокими ставками 90% все еще хотят людей. Разделительная линия — это не интеллект — это память и адаптивность.

Скрытый бум производительности на миллиард долларов, происходящий под его радаром

Далеко не показав неудачу ИИ, теневая экономика раскрывает огромные повышения производительности, которые не появляются в корпоративных показателях. Рабочие решили интеграцию, которые отвечают официальным инициативам, доказывая, что ИИ работает при правильном внедрении.

«Эта теневая экономика демонстрирует, что люди могут успешно пересечь разрыв в Genai, когда ему предоставляется доступ к гибким, отзывчивым инструментам», — объясняется отчет. Некоторые компании начали обращать внимание: «Передовые организации начинают преодолевать этот пробел, узнав из использования тени и анализируя, какие личные инструменты обеспечивают ценность, прежде чем приобретать альтернативы предприятия».

Повышение производительности является реальным и измеримым, просто скрытым от традиционного корпоративного бухгалтерского учета. Рабочие автоматизируют рутинные задачи, ускоряют исследования и оптимизируют общение — все в то время как официальные бюджеты ИИ их компаний приносят небольшую прибыль.

Почему покупка Beats Build

Еще один поиск проблем с обычной технической мудростью: компании должны перестать пытаться создать ИИ внутри. Внешние партнерские отношения с поставщиками ИИ достигли развертывания в 67% случаев, по сравнению с 33% для внутренних построенных инструментов.

Наиболее успешные реализации были получены от организаций, которые «обращались к стартапам искусственного интеллекта, менее похожими на поставщиков программного обеспечения и больше похожи на поставщиков бизнес -услуг», придерживая их до оперативных результатов, а не с техническими показателями. Эти компании требовали глубокой настройки и постоянного улучшения, а не ярких демонстраций.

«Несмотря на общепринятую мудрость в том, что предприятия противостоят обучению систем ИИ, большинство команд в наших интервью выразили готовность сделать это, при условии, что преимущества были ясными, а ограждения были на месте», — обнаружили исследователи. Ключом было партнерство, а не просто покупка.

Семь отраслей промышленности избегают сбоев на самом деле умны

Отчет MIT показал, что только технологические и медиа -сектора демонстрируют значимые структурные изменения от ИИ, в то время как семь основных отраслей промышленности, включая здравоохранение, финансы и производство, показывают «значительную пилотную деятельность, но практически без структурных изменений».

Этот измеренный подход не неудача — это мудрость. Промышленности, избегающие сбоев, вдумчивы о внедрении, а не торопились в хаотические изменения. В области здравоохранения и энергии «большинство руководителей сообщают о никаких текущих или ожидаемых сокращениях найма в течение следующих пяти лет».

Технология и средства массовой информации движутся быстрее, потому что они могут поглощать больший риск. Более 80% руководителей в этих секторах ожидают снижения найма в течение 24 месяцев. Другие отрасли доказывают, что успешное принятие искусственного интеллекта не требует драматических потрясений.

Автоматизация бэк-офиса доставляет миллионы, в то время как инструменты фронта

Корпоративное внимание уделяется приложениям о продажах и маркетингах, которые захватили около 50% бюджетов искусственного интеллекта. Но самая высокая доходность получена от неглумарной автоматизации бэк-офиса, которая привлекает мало внимания.

«Некоторые из самых драматических экономии, которые мы задокументировали, приходилось на автоматизацию бэк-офиса»,-обнаружили исследователи. Компании сэкономили 2-10 миллионов долларов ежегодно в области обслуживания клиентов и обработки документов, исключив контракты на аутсорсинг бизнес-процессов, и сократили внешние творческие затраты на 30%.

Эти выгоды пришли «без материальной рабочей силы», отмечает исследование. «Инструменты ускорили работу, но не изменили командные структуры или бюджеты. Вместо этого ROI появилась из-за сокращения внешних расходов, исключения контрактов BPO, сокращения платежей по агентствам и замены дорогих консультантов на внутренние возможности, работающие на AI».

Революция искусственного интеллекта преуспевает — один сотрудник за раз

Результаты MIT не показывают, что ИИ провалится. Они показывают, что ИИ преуспевает настолько хорошо, что сотрудники опередили своих работодателей. Технология работает; Корпоративные закупки нет.

Исследователи определили организации, «пересекающие разрыв в Genai», сосредоточившись на инструментах, которые глубоко интегрируются, адаптируя со временем. «Переход от строительства к покупке, в сочетании с ростом усыновления ProSumer и появлением агентских возможностей, создает беспрецедентные возможности для поставщиков, которые могут обеспечить, глубоко интегрированные системы ИИ, способные к обучению».

95% пилотов AI Enterprise, которые терпят неудачу, указывают на решение: учиться у 90% работников, которые уже выяснили, как заставить ИИ работать. Как один из руководителей производства сказал исследователям: «Мы быстрее обрабатываем некоторые контракты, но это все изменилось».

Этот руководитель пропустил большую картину. Обработка контрактов быстрее — умноженная на миллионы работников и тысячи ежедневных задач — это именно тот тип постепенного, устойчивого повышения производительности, которая определяет успешное принятие технологий. Революция ИИ не проходит. Это тихо, по одному разговору в ЧАТГПТ за раз.

Delphi, двухлетний стартап AI в Сан-Франциско, названный в честь древнегреческого оракула, столкнулся Тщательно проблема 21-го века: его «цифровые умы»-Интерактивные, персонализированные чат-боты, смоделированные после конечного пользователя, и предназначены для направления своего голоса на основе их произведений, записей и других средств массовой информации- тонули в данных.

Каждый Delphi может извлечь из любого количества книг, социальных каналов или материалов курса для реагирования в контексте, что заставляет каждое взаимодействие чувствовать себя как прямой разговор. Создатели, тренеры, художники и эксперты уже использовали их, чтобы поделиться знаниями и привлекать аудиторию.

Но каждая новая загрузка подкастов, PDF -файлов или социальных постов в Delphi добавила сложность в базовые системы компании. Сохранение этих ИИ -альтернативных эго реагирует в режиме реального времени, не нарушая системы, стало сложнее к неделе.

К счастью, Dephi обнаружил решение его масштабирования, используя управляемую векторную базу данных Darling Pinecone.

Открытый исходный код заходит так далеко

Ранние эксперименты Дельфи опирались на векторные магазины с открытым исходным кодом. Эти системы быстро пристались к потребностям компании. Индексами в размерах, замедляя поиски и усложняют масштаб.

Задержка всплеска во время живых событий или внезапная загрузка контента рискует разрушить разговорный поток.

Хуже того, небольшая, но растущая команда инженеров Delphi обнаружила, что тратит недели настройку индексов и управляя логикой шардинга вместо создания функций продукта.

Полностью управляемая векторная база данных Pinecone, с соблюдением SOC 2, шифрованием и встроенным изоляцией пространства имен, оказалась лучшим путем.

Каждый цифровой разум теперь имеет свое пространство имен в Pinecone. Это обеспечивает конфиденциальность и соблюдение требований, а также сужает площадь поверхности поиска при получении знаний из его хранилища данных, загруженных пользователем, повышая производительность.

Данные создателя могут быть удалены с помощью одного вызова APIПолем Понимание последовательно возвращается менее 100 миллисекунд на 95 -м процентиле, Учет менее чем 30 процентов от строгой односекундной задержки в одном секунде.

«С Pinecone нам не нужно думать о том, сработает ли это», — сказал Сэмюэль Спелсберг, соучредитель и технический директор Delphiв недавнем интервью. «Это освобождает нашу инженерную команду, чтобы сосредоточиться на производительности приложений и функциях продукта, а не на инфраструктуре семантического сходства».

Архитектура за шкалой

В основе системы Delphi лежит конвейер из поиска с поколением (RAG). Содержание проглатывается, очищается и разбивается; Затем встроено с использованием моделей из собственного стека Openai, Anpropic или Delphi.

Эти встраивания хранятся в Pinecone под правильным пространством имен. В запросе Time Pinecone извлекает наиболее релевантные векторы в миллисекундах, которые затем подаются в большую языковую модель для производства ответов, популярного метода, известного через индустрию искусственного интеллекта как Поиск дополненного поколения (Rag).

Этот дизайн Позволяет Delphi поддерживать разговоры в реальном времени без подавляющих системных бюджетов.

Как Джеффри Чжу, вице -президент по продукту в PineconeОбъяснил, ключевое инновации-от традиционных векторных баз данных на основе узлов к подходу, первостепенному.

Вместо того, чтобы хранить все данные в памяти, Pinecone динамически загружает векторы при необходимости и разгружает простальные.

«Это действительно соответствует моделям использования Delphi», — сказал Чжу. «Цифровые умы вызываются всплесками, а не постоянно. Благодаря развязке хранения и вычислению мы снижаем затраты, обеспечиваем горизонтальную масштабируемость».

PineCone также автоматически настраивает алгоритмы в зависимости от размера пространства имен. Меньший Delphis может хранить только несколько тысяч векторов; Другие содержат миллионы, полученные от создателей с десятилетиями архивов.

Pinecone адаптивно применяет лучший подход индексации в каждом случае. Как сказал Чжу: «Мы не хотим, чтобы наши клиенты выбирали между алгоритмами или удивляемся вспоминанию. Мы обрабатываем это под капотом».

Дисперсия среди создателей

Не каждый цифровой разум выглядит одинаково. Некоторые создатели загружают относительно небольшие наборы данных — каналы в социальных сетях, эссе или материалы курса — составляют десятки тысяч слов.

Другие идут намного глубже. Спелсберг описал одного эксперта, который внес сотни гигабайт сканируемых PDF, охватывающих десятилетия маркетинговых знаний.

Несмотря на эту дисперсию, архитектура без сервера Pinecone позволила Delphi масштабироваться за пределы 100 миллионов сохраненных векторов через 12 000+ пространств имен Без удара масштабирующих скал.

Поиск остается последовательным, даже во время шипов, вызванных живыми событиями или падениями контента. Дельфи теперь поддерживает о 20 запросов в секунду во всем миреподдерживая одновременные разговоры по часовым поясам с нулевыми инцидентами масштабирования.

К миллиону цифровых умов

Амбирование Delphi состоит в том, чтобы разместить миллионы цифровых умов, цель, которая потребует поддержки не менее пяти миллионов пространств имен в одном индексе.

Для Spelsberg этот шкал не является гипотетическим, а частью дорожной карты продукта. «Мы уже перешли от идеи начальной стадии к системе, управляющей 100 миллионами векторов»,-сказал он. «Надежность и производительность, которую мы видели, дают нам уверенность в том, чтобы агрессивно масштабироваться».

Чжу согласился, отметив, что архитектура Pinecone была специально разработана для обработки взрывающих, многопользовательских рабочих нагрузок, таких как Delphi’s. «Агентные приложения, подобные этим, не могут быть построены на инфраструктуре, которая трескается под масштабом», — сказал он.

Почему тряпка все еще имеет значение и будет для обозримого будущего

По мере расширения контекстных окон в крупных языковых моделях, некоторые в индустрии искусственного интеллекта предполагают, что тряпка может устареть.

И Спелсберг, и Чжу отталкивают эту идею. «Даже если у нас есть окна на миллиард контекста, тряпка все равно будет важна»,-сказал Спелсберг. «Вы всегда хотите выяснить наиболее актуальную информацию. В противном случае вы тратите деньги, увеличивая задержку и отвлекаете модель».

Чжу сформулировал его с точки зрения контекст инженерия — Термин Pinecone недавно использовался в собственных технических сообщениях в блоге.

«LLM — это мощные инструменты рассуждения, но им нужны ограничения», — пояснил он. «Сброс во всем, что у вас есть, неэффективно и может привести к худшим результатам. Организация и сужение контекста не просто дешевле — это повышает точность».

Как описано в собственных работах Pinecone по контекстной инженерии, поиск помогает управлять конечным количеством внимания языковых моделей, курируя правильное сочетание запросов пользователей, предыдущих сообщений, документов и воспоминаний, чтобы со временем сохраняло взаимодействие.

Без этого Windows заполняются, а модели теряют отслеживание критической информации. С помощью этого приложения могут поддерживать актуальность и надежность в течение длительных разговоров.

От черного зеркала до корпоративного уровня

Когда в 2023 году VentureBeat впервые профилировал Delphi, компания была только что собрала 2,7 миллиона долларов в виде семян и привлекает внимание к своей способности создавать убедительные «клоны» исторических деятелей и знаменитостей.

Генеральный директор Дара Ладевардиан проследил эту идею до личной попытки воссоединиться со своим покойным дедушкой через ИИ.

Сегодня кадрирование созрело. Delphi подчеркивает цифровые умы не как бесполезные клоны или чат -ботов, а в инструментах для масштабирования знаний, обучения и опыта.

Компания видит приложения в области профессионального развития, коучинга и обучения предприятиям — областям, где точность, конфиденциальность и отзывчивость имеют первостепенное значение.

В этом смысле сотрудничество с Pinecone представляет собой больше, чем просто техническое соответствие. Это часть усилий Дельфи, чтобы перенести повествование с новизны на инфраструктуру.

Цифровые умы теперь позиционируются как надежные, безопасные и готовые предприятия — Потому что они сидят на системе поиска, спроектированной как для скорости, так и для доверия.

Что дальше для Delphi и Pinecone?

С нетерпением жду, Delphi планирует расширить свой набор функций. Одним из предстоящих дополнений является «Режим интервью», где цифровой разум может задать вопросы своего собственного создателя/исходного человека, чтобы заполнить пробелы в знаниях.

Это снижает барьер для въезда для людей без обширных архивов контента. Между тем, PineCone продолжает совершенствовать свою платформу, добавляя такие возможности, как адаптивная индексация и фильтрация с эффективной памятью для поддержки более сложных рабочих процессов поиска.

Для обеих компаний траектория указывает на масштаб. Delphi представляет миллионы цифровых умов, активных между областями и аудиторией. PineCone рассматривает свою базу данных как поисковый слой для следующей волны агентских приложений, где контекстная инженерия и поиск остаются необходимыми.

«Надежность дала нам уверенность в масштабе», — Спелсберг сказал. Чжу повторил чувство: «Речь идет не только о управлении векторами. Речь идет о том, чтобы включить совершенно новые классы приложений, которые нуждаются в как скорости, так и в масштабе».

Если Delphi продолжит расти, миллионы людей будут взаимодействовать изо дня в день с цифровыми умом — живыми хранилищами знаний и личности, тихо работая под капюшоном By Pinecone.

CodeSignal Inc., платформа оценки навыков в Сан-Франциско, доверяемая Netflix, Meta и Capital One, запустила Cosmo в среду, приложение для мобильного обучения, которое превращает свободные минуты в готовые к карьере навыками с помощью искусственных интеллектуальных микроуров.

Приложение представляет собой стратегический ключ для CodeSignal, который создал свою репутацию, оценивая технические таланты для крупных корпораций, но всегда поддерживал амбиции революционизировать образование на рабочем месте. Cosmo проходит более 300 курсов размером с укус через генеративный ИИ, кодирование, маркетинг, финансы и лидерство через интерактивный интерфейс чата, основанный на репетиторе ИИ.

«Cosmo-это все равно, что иметь в вашем кармане репетитор искусственного интеллекта, который может научить вас чему-либо от Genai до кодирования до маркетинга до финансирования лидерства, и это делает это посредством практики»,-сказал Тигран Слоян, соучредитель и генеральный директор CodeSignal в эксклюзивном интервью с VentureBeat. «Вместо того, чтобы смотреть видео или читать о чем -то, вы сразу же начинаете практиковать».

Запуск происходит, когда организации сталкиваются с массовыми пробелами навыков, созданных быстрому принятию ИИ. Согласно опросу разработчиков переполнения стека 2024 года, 76% разработчиков в настоящее время используют или планируют использовать инструменты ИИ, однако большинству работников не хватает практических знаний, чтобы эффективно использовать эти инструменты. Традиционные корпоративные учебные программы, которые могут стоить от 20 000 до 40 000 долларов США на человека для обучения на уровне исполнительной власти, оказались неадекватными для масштабирования грамотности ИИ по всей рабочей силе.

Как CodeSignal превратилась из платформы для найма технологий к мобильному образованию Powerhouse

Путешествие CodeSignal в мобильное обучение завершает десятилетнее видение, которое потребовало неожиданное обход в технологическом пространстве найма. Первоначально Слоян основал компанию в 2015 году с образовательными амбициями, но быстро понял, что без практики найма, основанной на навыках, альтернативное образование не сможет набрать обороты.

«Я основал компанию с этой мечтой и миссией: я хочу помочь большему количеству людей в достижении своего истинного потенциала, что, естественно, приводит к лучшему образованию», — объяснил Слоян в интервью. «Но примерно через два года в истории компании я понял, что, не зная, что компании действительно будут заботиться о навыках, которые вы создаете с помощью альтернативного образования, а не просто спрашивать:« Куда вы пошли в колледж? » или «Чем вы занимались?» — Это не сработает ».

Компания потратила следующие шесть лет, создав то, что стало ведущей платформой технической оценки, обрабатывая миллионы оценок кодирования для более чем 3000 компаний. Этот период, ориентированный на найм, обеспечивал кодезгенс решающего интеллекта о том, какие навыки работодатели фактически ценят-данные, которые в настоящее время информируют разработку учебных программ COSMO.

«Мы точно знаем, что ищут компании», — сказал Слоян. «Без этого я чувствую, что вы снимаете в темноте, когда пытаетесь подготовить людей к тому, что поможет им получить эту работу, что поможет им продвинуть свою карьеру».

Почему преподаватели ИИ могут наконец решить проблему персонализированного обучения

Cosmo отличает то, что Codesignal называет «практикой первого обучения», где пользователи сразу же взаимодействуют с реалистичными сценариями на рабочем месте, а не потребляют пассивный видеоконтент. Репетитор ИИ приложения, также названный Cosmo, проводит учеников через разговорные обмены, которые адаптируются к индивидуальным уровням знаний и темпе обучения.

Платформа посвящена тому, что психологи образовательных веществ называют «проблемой Bloom Two Sigma»-исследованием 1984 года, показывающем, что репетиторство один на один дает результаты обучения два стандартных отклонений выше традиционного обучения в классе. В течение четырех десятилетий это оставалось теоретически интересным, но практически невозможно масштабировать.

«Мы знаем, что индивидуальная персонализация и репетиторство действительно имеют значение в обучении, но это не может быть сделано в масштабе. Как получить репетитор для каждого человека?» Слоян сказал. «В 2023 году, когда я увидел ранние версии генеративного ИИ, я подумал: это момент. Эта технология, особенно если она становится лучше, может быть уникально, чтобы помочь людям узнать, как должно произойти обучение».

Приложение сочетает в себе предопределенный содержание курса с персонализацией в реальном времени. Каждый урок следует структурированной учебной программе, но учащиеся могут преодолеть вопросы, которые приводят к немедленным объяснениям, сгенерированным AI, прежде чем вернуться в основной поток контента.

Генеративное обучение навыков искусственного интеллекта занимает центральное место в качестве рабочей силы, чтобы адаптироваться

Почти треть контента запуска COSMO фокусируется на генеративных приложениях искусственного интеллекта, отражая то, что CodeSignal идентифицирует как наиболее критический разрыв на навыках на сегодняшнем рынке. Приложение предлагает специфичные для ролевых путей обучения искусственного интеллекта для специалистов по продажам, маркетологов, инженеров, работников здравоохранения и других специальностей.

«Самым большим акцентом делается на генеративные навыки искусственного интеллекта, потому что это самый большой разрыв в карьерных навыках прямо сейчас как для студентов, так и для работающих взрослых», — объяснил Слоян. «Все от того, как понять и использовать Genai, как думать о его ограничениях, как лучше подсказывать и как понять весь ландшафт».

В этом фокусе рассматривается более широкая трансформация рабочей силы, обусловленная принятием искусственного интеллекта. В то время как некоторые боятся перемещения работы, Слоян прогнозирует повышенный спрос на квалифицированных работников, которые могут эффективно сотрудничать с системами искусственного интеллекта.

«Я не верю, что мы собираемся достичь точки, когда люди больше не нужны в рабочей силе. Я думаю, что это будет противоположным. Нам понадобится больше людей, потому что то, что отдельный человек может сделать в эпоху ИИ, будет намного больше, чем мы могли бы сделать», — сказал он.

Стратегия обучения мобильной связи предназначена как отдельных работников, так и корпоративных клиентов

CodeSignal позиционирует Cosmo как принципиально потребительское приложение, которое также обслуживает корпоративных клиентов — отражение того, как на самом деле происходит обучение на рабочем месте. Компания уже предоставляет свою академию навыков Genai корпоративным клиентам, и Cosmo распространяет это обучение на мобильные устройства для обучения на ходу.

«Несмотря на то, что некоторые из крупнейших образовательных компаний, таких как Coursera и Udemy, получают большую часть своего дохода или, по крайней мере, вдвое, от компаний, в конце концов, образование — это потребительский бизнес», — отметил Слоян. «Кто вы обучаете? Вы не обучаете компанию — вы обучаете людей».

Приложение запускается бесплатно на iOS с премиальными подписками на 24,99 долл. США в месяц или 149,99 долл. США в год, разблокируя неограниченные тренировочные сессии и более быстрый прогресс. Доступность Android следует 28 августа.

Клиенты предприятия, которые уже используют платформу обучения CodeSignal, получат доступ к CoSMO в рамках своих существующих подписок, создавая то, что компания описывает как «сопутствующие отношения» между глубоким обучением на рабочем столе и формированием привычки на основе мобильных устройств.

Cosmo лицом к переполненному рынку Edtech с уникальным фокусом на карьере

Cosmo выходит на переполненный рынок образовательных технологий, но нацелена на в основном недостаточно обслуживаемую нишу: комплексное обучение карьерных навыков, оптимизированное для мобильного потребления. В то время как конкуренты, такие как Codecademy, фокусируются на конкретных технических навыках, и Duolingo доминирует в изучении языка, ширина Cosmo в бизнес -и технических дисциплинах отмечает более амбициозный охват.

Ранние отзывы пользователя предлагают сильный рыночный спрос. Бета -тестеры описывают приложение как «Duolingo для рабочих навыков» и восхваляют его удобство для мобильного обучения. Более широкая платформа обучения Codesignal привлекла миллион пользователей менее чем за год, при этом использование удваивается каждые два месяца.

Фонд приложения в области найма разведки обеспечивает конкурентное преимущество перед традиционными образовательными издателями. Данные CodeSignal по оценке показывают, какие навыки фактически влияют на решения о найме, обеспечивая актуальность учебной программы на быстро развивающемся рынке труда.

Корпоративная учебная индустрия занимается низким участием и плохой рентабельности ROI

Запуск Cosmo отражает более широкие сдвиги в том, как организации подходят к развитию рабочей силы. Традиционное корпоративное обучение часто страдает от плохого участия и удержания, причем показатели использования часто в однозначных цифрах, несмотря на значительные инвестиции.

«Проблема, связанные с предприятием, удержание предприятия — это удержание. Организации покупают, развертывают и их использование похожи на однозначные цифры, и это ужасно», — сказал Слоян. «Как следует измерять эти продукты, так это то, сколько в моей организации в моей организации, и сколько из них обладают навыками, о которых я забочусь».

Подход «Первый мобильный» признает, как работающие профессионалы на самом деле потребляют образовательный контент-в кратких сессиях во время поездок на работу, перерывов или других простоя, а не выделенных блоков обучения настольных компьютеров.

Революция навыков ускоряется, когда ИИ трансформирует каждую отрасль

Расширение CodeSignal в мобильное обучение происходит, поскольку компания продолжает инновации в спектре оценки навыков и развития. Недавние запуска продукта включают в себя оценки кодирования, которые оценивают, как кандидаты сотрудничают с инструментами ИИ, и агенты интервьюера, которые автоматизируют технические интервью.

Компания также расширила свои образовательные партнерские отношения, в том числе сотрудничество с Amazon Web Services, чтобы обеспечить бесплатное генеративное обучение ИИ для более чем 30 000 студентов во всем мире благодаря навыкам AWS для технического альянса Jobs.

Слоян создает эти инициативы в рамках более широкой миссии, чтобы помочь работникам ориентироваться в технологических нарушениях. По мере того, как ИИ трансформирует практически каждую отрасль, способность быстро приобретать новые навыки становится все более важной для устойчивости к карьере.

«Мы вошли в эру ускоряющихся технологических изменений, которые принесут много нарушений», — сказал он. «Требуется массовая трансформация навыков, и сейчас я хочу, чтобы больше компаний делали больше, чтобы помочь людям найти и развивать эти навыки».

Успех Cosmo может определить, может ли мобильный родной, основанный на искусственном искусстве обучение, наконец, предоставить давно предоставленный потенциал персонализированного образования в масштабе. Для CodeSignal запуск знаменует собой своего рода возвращение домой — после того, как потратил годы обучение компаний, как выявлять квалифицированных работников, компания в настоящее время учит работников, как стать квалифицированным в первую очередь. В эпоху, когда искусственный интеллект угрожает вытеснять человеческих работников, Codesignal делает ставку на то, что решение заключается в использовании ИИ, чтобы сделать людей более способными, чем когда -либо прежде.