Скрытый масштабирующий утес

Предприятия, которые хотят создавать и масштабировать агентов, также должны принять другую реальность: агенты не созданы, как другое программное обеспечение.

Агенты «категорически отличаются» в том, как они строятся, как они работают и как они улучшаются, по словам генерального директора и соучредителя писателя May Habib. Это означает отказ от традиционного жизненного цикла разработки программного обеспечения при работе с адаптивными системами.

«Агенты не выполняют достоверных правил», — сказал Хабиб в среду, находясь на сцене на VB Transform. «Они основаны на результатах. Они интерпретируют. Они адаптируются. И поведение действительно появляется только в реальных условиях».

Знание того, что работает-а что не работает-происходит из опыта Хабиба, помогая сотням корпоративных клиентов строить и масштабировать агентов предприятия. По словам Хабиба, более 350 из Fortune 1000 являются писательными клиентами, и к концу 2025 года более половины Fortune 500 будут масштабируют агенты с писателем.

По словам Хабиба, использование не определенных технологий для производства мощных результатов может быть «действительно кошмарным», особенно при попытке системно масштабировать агенты. Даже если команды предприятий могут вращать агентов без менеджеров по продуктам и дизайнеров, Хабиб считает, что «мышление PM» все еще необходимо для сотрудничества, создания, итерационных и поддержанных агентов.

«К сожалению или, к счастью, в зависимости от вашей точки зрения, она останется держась с сумкой, если они не приведут своих деловых коллег в этот новый способ строительства».

Почему агенты, основанные на целях, является правильным подходом

Один из сдвигов в мышлении включает понимание основанной на результатах природы агентов. Например, она сказала, что многие клиенты просят агентов помогать своим юридическим группам в рассмотрении контрактов или переломы. Но это слишком открыто. Вместо этого целенаправленный подход означает разработку агента для сокращения времени, затрачиваемого на рассмотрение и сокращение контрактов.

«В традиционном жизненном цикле разработки программного обеспечения вы разрабатываете детерминированный набор очень предсказуемых шагов», — сказал Хабиб. «Он вводит, вводится более детерминированным образом. Но с агентами вы стремитесь сформировать агентское поведение. Таким образом, вы ищете меньше контролируемого потока и многое другое, чтобы дать контекст и направлять принятие решений агентом».

Другое отличие — создание плана для агентов, которые обучают их бизнес -логике, а не предоставляют им рабочие процессы для следования. Это включает в себя проектирование циклов рассуждений и сотрудничество с экспертами субъектов для картирования процессов, которые способствуют желаемому поведению.

В то время как есть много разговоров о масштабных агентах, писатель все еще помогает большинству клиентов создавать их по одному. Это потому, что сначала важно ответить на вопросы о том, кто владеет и проверяет агента, который следит за тем, чтобы он остался актуальным и все еще проверяет, если он все еще дает желаемые результаты.

«Существует масштабирующий обрыв, который люди получают очень, очень быстро без нового подхода к строительным и масштабирующим агентам», — сказал Хабиб. «Существует обрыв, к которому люди получат, когда способность их организации управлять агентами ответственно действительно превышает темпы развития, происходящего по департаменту».

QA для агентов против программного обеспечения

Обеспечение качества также отличается для агентов. Вместо объективного контрольного списка, агентская оценка включает в себя учетную запись невоирного поведения и оценку того, как агенты действуют в реальных ситуациях. Это потому, что неудача не всегда очевидна — и не такая черная и белая, как проверка, если что -то сломалось. Вместо этого Хабиб сказал, что лучше проверить, хорошо ли агент ведет себя хорошо, спрашивая, работал ли неудача, оценивая результаты и намерения: «Цель здесь не является совершенством, это поведенческая уверенность, потому что в этом есть большая субъективность».

Предприятия, которые не понимают важности итерации, в конечном итоге играют в «постоянную игру тенниса, которая просто носит каждую сторону, пока они больше не захотят играть», — сказал Хабиб. Также важно, чтобы команды были в порядке, когда агенты не являются идеальными, а больше — «запустить их безопасно и быстро работать, а снова и снова итерация».

Несмотря на проблемы, есть примеры того, как агенты искусственного интеллекта уже помогают внести новый доход для предприятий. Например, Хабиб упомянул крупный банк, который сотрудничал с писателем для разработки агентской системы, что привело к новому конвейеру Upsell на сумму 600 миллионов долларов, внедряя новых клиентов в несколько линий продуктов.

Управление новой версией для агентов искусственного интеллекта

Агентное обслуживание также отличается. Традиционное обслуживание программного обеспечения включает в себя проверку кода, когда что -то сломается, но Хабиб сказал, что агентам искусственного интеллекта требуется новый вид контроля версий для всего, что может формировать поведение. Это также требует надлежащего управления и обеспечения того, чтобы агенты оставались полезными с течением времени, а не несут ненужные затраты.

По словам Хабиба, поскольку модели не сопоставляются чистыми с агентами искусственного интеллекта. Это также означает полное отслеживание выполнения по входам, выходам, шагам рассуждений, звонкам по инструментам и человеческому взаимодействию.

«Вы можете обновить (большую языковую модель) подсказку LLM и наблюдать, как агент ведут себя совершенно по -разному, хотя ничто в истории GIT фактически не изменилось», — сказал Хабиб. «Модельные ссылки сдвигаются, индексы поиска обновляются, API -интерфейсы эволюционируют, и внезапно такая же подсказка не ведет себя, как и ожидалось… может показаться, что мы отлаживаем призраков».