ИИ в бизнесе

2023 год был годом генеративного ИИ. Однако, поскольку каждая компания стремилась укрепить свою стратегию ИИ, они также реализовали ценность чистых и высококачественных данных, возвращаясь к необходимости надежной инфраструктуры в смесь. От Snowflake до Microsoft, поставщики экосистемы данных обналичили эту возможность и перемещались, иногда даже приобретали известных игроков, чтобы дать своим клиентам возможность использовать свои данные для различных приложений искусственного интеллекта, а также внедрить различные возможности искусственного интеллекта в свои продукты.

Это 5 лучших историй данных VentureBeat 2023 года

1. Microsoft, чтобы победить Amazon и Google в облачной войне

В мае Microsoft анонсировала Fabric-сквозную аналитическую платформу, которая объединяет все инструменты данных и инструменты аналитики, включая Azure Synapse Analytics и Power BI, в один унифицированный продукт. Мы поговорили с аналитиками, чтобы понять, что делает это предложение, которое направлено на то, чтобы разблокировать потенциал данных и заложить основу для ИИ, уникальный и может помочь Microsoft «Leapfrog» Amazon и другими облачными поставщиками, такими как Google. По крайней мере, когда дело доходит до обслуживания крупных корпоративных компаний.

«В связи с тем, что все эти возможности собираются вместе, Microsoft определенно имеет небольшое преимущество перед другими гиперспешами на данный момент», — сказал VentureBeat Ноэль Юханна, аналитик Forrester.

2. Рост векторной базы данных, новый вид базы данных для эпохи ИИ

Поскольку генеративный ИИ является точкой разговора для каждого бизнеса, Чарльз Xie, генеральный директор и основатель Zilliz, обсудил рост векторных баз данных, новую категорию управления базами данных и сдвиг парадигмы для использования экспоненциальных объемов неструктурированных данных, находящихся в непонтер в хранилищах объектов. Векторные базы данных обеспечивают новую мысль о новом уровне возможности поиска неструктурированных данных, в частности, но могут также заняться полуструктурированными и даже структурированными данными. Xie также рассказал о том, как компании должны обращаться к векторным базам данных, чтобы нацелиться на их соответствующие варианты использования.

3. Приобретение DataBricks ‘1,3 миллиарда долларов MOSAICML

DataBricks попала в заголовки газет перед ежегодным саммитом в июне, когда он объявил о приобретении компании AI MosaicML за 1,3 миллиарда долларов. Идея заключалась в том, чтобы привлечь модели Mosaicml и модели искусственного интеллекта под его зонтиком, предоставив предприятиям объединенную платформу, где они могут управлять активами данных и использовать их для создания безопасных генеративных приложений искусственного интеллекта.

«Каждая организация должна быть в состоянии извлечь выгоду из революции ИИ с большим контролем над тем, как используются их данные. Databricks и Mosaicml имеют невероятную возможность демократизировать ИИ и сделать Лейкхаус лучшим местом для создания генеративных ИИ и LLM», — сказал Али Годси, соучредитель и генеральный директор Databricks.

4. Salesforce партнеры за более сильные основы данных

За последний год гигантские Salesforce Giant Management Customer Management (CRM) усилили свою стратегию ИИ с помощью нескольких улучшений продукта. Чтобы поддержать эти инициативы, в сентябре компания, возглавляемая Марком Бениоффом, объявила, что ее собственное облако данных, которое объединяет информацию из разных источников для размещения единых профилей клиентов в режиме реального времени, будет поддерживать двунаправленный обмен данными и доступ к платформе Databricks Data Lakehouse и облако данных Snowflake.

Этот шаг позволяет совместным клиентам компаний обогащать свои наборы данных и питать дополнительные варианты использования, включая создание и развертывание более способных моделей, ориентированных на различные критически важные проблемы.

5. Документ Снежинки для неструктурированного поиска данных

Snowflake поднял волны в июне с запуском документа AI, нового инструмента с большой языковой моделью (LLM), который позволяет предприятиям быстро извлекать стоимость из их заграждения неструктурированных документов (представьте себе счета -фактуры PDF). Этот шаг ознаменовал серьезную разработку компании, которая началась с акцента на структурированных данных, давая командам простой способ мобилизации полезной неструктурированной информации, которая часто остается разбросанной по всем бункеру.

«Мы разблокируем новую эру данных для клиентов, используя ИИ и устранение бункеров, ранее связанных форматом, местоположением и многим другим, чтобы революционизировать, как организации поставляют свои данные на работу и проводят информацию с облаком данных», — сказал Snowflake SVP из Product Christian Kleinerman.

Использование ИИ в предприятиях, ориентированных на потребителя, растет-как и в долгосрочной перспективе, как и в долгосрочной перспективе. Давление на лучшее управление ИИ растет только с недавним исполнительным приказом администрации Байдена, который предписывал новые протоколы измерения для разработки и использования передовых систем ИИ.

Сегодня поставщики ИИ и регулирующие органы очень сосредоточены на объяснении как столпе управления ИИ, что позволяет тем, кто пострадал от систем ИИ, наилучшим образом понимать и оспаривать результаты этих систем, включая предвзятость.

В то время как объяснение ИИ является практичным для более простых алгоритмов, как и те, которые используются для утверждения автомобильных кредитов, более поздняя технология ИИ использует сложные алгоритмы, которые могут быть чрезвычайно сложными для объяснения, но все же обеспечивают мощные преимущества.

GPT-4 OpenAI обучается огромным количествам данных, с миллиардами параметров и может выпускать человеческие разговоры, которые революционизируют целые отрасли. Точно так же модели скрининга рака Google DeepMind используют методы глубокого обучения для построения точного обнаружения заболеваний, которые могут спасти жизни.

Эти сложные модели могут сделать практически невозможным отслеживать, где было принято решение, но это может даже не иметь смысла. Вопрос, который мы должны задать себе: должны ли мы лишать мир этих технологий, которые являются только частично объяснимыми, если мы можем обеспечить их выгоду, ограничивая вред?

Даже американские законодатели, которые стремятся регулировать ИИ, быстро понимают проблемы, связанные с объяснение, выявляя необходимость в другом подходе к управлению ИИ для этой сложной технологии — еще более сосредоточенной на результатах, а не только на объяснения.

Работа с неопределенностью в отношении новых технологий не нова

Сообщество медицинских наук давно признало, что во избежание вреда при разработке новых методов лечения необходимо сначала определить, каким может быть потенциальный вред. Чтобы оценить риск этого вреда и уменьшить неопределенность, было разработано рандомизированное контролируемое исследование.

В рандомизированном контролируемом исследовании, также известном как клиническое исследование, участники назначаются для лечения и контрольных групп. Группа лечения подвергается воздействию медицинского вмешательства, а контроль — нет, и наблюдаются результаты в обеих когортах.

Сравнивая две демографически сопоставимые когорты, может быть идентифицирована причинность, то есть наблюдаемое воздействие является результатом конкретного лечения.

Исторически, медицинские исследователи полагались на стабильный дизайн тестирования, чтобы определить долгосрочную безопасность и эффективность терапии. Но в мире ИИ, где система постоянно учится, новые преимущества и риски могут появляться каждый раз, когда алгоритмы переподготовлены и развернуты.

Классическое рандомизированное контрольное исследование может быть не подходит для цели для оценки рисков ИИ. Но в аналогичной структуре может быть полезность, например, A/B -тестирование, которая может измерить результаты системы AI навсегда.

Как A/B -тестирование может помочь определить безопасность искусственного интеллекта

За последние 15 лет A/B -тестирование широко использовалось в разработке продукта, где группы пользователей обрабатываются по -разному для измерения воздействия определенных продуктов или опытных функций. Это может включать в себя определение того, какие кнопки более кликируются на веб -странице или мобильном приложении, и когда время от времени маркетинговой электронной почты.

Бывший глава экспериментов в Бинге, Ронни Кохави, представил концепцию непрерывных экспериментов в Интернете. В этой структуре тестирования пользователи Bing были случайным образом и непрерывно выделены либо на текущую версию сайта (контроль), либо новую версию (обработка).

Эти группы постоянно контролировались, а затем оценивались по нескольким показателям, основанным на общем воздействии. Рандомизация пользователей гарантирует, что наблюдаемые различия в результатах между лечебными и контрольными группами обусловлены интервенционным лечением, а не чем -то другим, таким как время суток, различия в демографии пользователя или какое -то другое лечение на веб -сайте.

Эта структура позволила технологическим компаниям, таким как Bing, а затем Uber, Airbnb и многие другие — внести итеративные изменения в своих продуктах и ​​пользовательском опыте и понять эти изменения в ключевых бизнес -метриках. Важно отметить, что они создали инфраструктуру для этого в масштабе, и эти предприятия в настоящее время управляют потенциально тысячами экспериментов одновременно.

Результатом является то, что многие компании теперь имеют систему для итеративных тестирования изменений в технологии против контроля или эталона: тот, который может быть адаптирован для измерения не только для бизнеса, таких как ClickThrough, продажи и доходы, но также причинно идентифицируют такие вреда, как разнородное воздействие и дискриминация.

Как выглядит эффективное измерение безопасности ИИ

Например, крупный банк может быть обеспокоен тем, что их новый алгоритм ценообразования для личных кредитования является несправедливым в обращении с женщинами. В то время как модель не использует защищенные атрибуты, такие как пол, явно, бизнес обеспокоен тем, что прокси для пола могли использоваться при обучении данных, и поэтому она устанавливает эксперимент.

Те, кто находится в группе лечения, по цене этого нового алгоритма. Для контрольной группы клиентов были приняты решения о кредитовании с использованием контрольной модели, которая использовалась в течение последних 20 лет.

Предполагая, что демографические атрибуты, такие как пол, известны, распределены одинаково и достаточного объема между лечением и контролем, разрозненным воздействием Между мужчинами и женщинами (если он есть) может быть измерено и поэтому ответит, является ли система ИИ справедливой в обращении с женщинами.

Воздействие ИИ на людей может также происходить медленнее для контролируемого развертывания новых функций продукта, где эта функция постепенно выпускается в большую долю пользовательской базы.

В качестве альтернативы, лечение может быть ограничено меньшим, менее рискованным населением в первую очередь. Например, Microsoft использует Red Teaming, где группа сотрудников взаимодействует с системой ИИ нацеленным способом проверки его наиболее значительного ущерба, прежде чем выпустить ее для населения в целом.

Измерение безопасности ИИ обеспечивает ответственность

В тех случаях, когда объясняемость может быть субъективной и плохо изученной во многих случаях, оценка системы ИИ с точки зрения ее результатов на различных популяциях, обеспечивает количественную и протестированную структуру для определения того, действительно ли алгоритм ИИ является вредным.

Критически, это устанавливает ответственность за систему ИИ, где поставщик ИИ может нести ответственность за надлежащее функционирование и согласование системы с этическими принципами. Во все более сложных средах, в которых пользователи обрабатываются многими системами ИИ, непрерывные измерения с использованием контрольной группы могут определить, какая обработка искусственного интеллекта нанесла вред и привлечет к ответственности обработки.

Несмотря на то, что объясняемость остается повышенной целью для поставщиков ИИ и регулирующих органов в разных отраслях, методы, впервые используемые в здравоохранении, а затем приняты в технологии для борьбы с неопределенностью, могут помочь достичь универсальной цели — что ИИ работает так же, как предполагалось, и, самое главное, безопасно.

Кэролайн О’Брайен является главным директором по данным и руководителем продукта в Afiniti, клиентской компании по опыту искусственного интеллекта.

Элазер Р. Эдельман — профессор Эдварда Дж. Потраса в области медицинской инженерии и науки в MIT, профессор медицины в Гарвардской медицинской школе и старший врач в отделении коронарной помощи в Бригаме и женской больнице в Бостоне.

В Carcast на этой неделе мы обсуждаем технологические и бизнес -прогнозы на 2024 год, вашу стратегию ИИ предприятия и то, как вы можете измерить свою жизнь.

https://www.youtube.com/watch?v=QALVXJCCXE

Основные моменты Carcast:

• Бен Эванс «ИИ и все остальное» Манифест;
• Метрики не имеют значения и почему GAAC мертв;
• Amazon Way: генеральные директора должны быть необоснованно оптимистичными и гиперреалистичными одновременно;
• Прогнозы 2024: Эффективность GTM, управляемая AI, и ИИ поднимаются по циклу шумиха.
• Ключевые соображения для технических руководителей, чтобы сделать стратегию искусственного интеллекта реальной в 2024 году.

Carcast также включает в себя такие дополнения, как «Как вы будете измерять свою жизнь?», Своевременное резюме философии Клейтона Кристенсена о значении жизни и ее измерениях.

Бруно Азиза — технологический предприниматель.

Поддержка клиентов является одной из наиболее очевидных областей для предприятий для развертывания решений искусственного интеллекта — но сделано неправильно, это может быть большим образом, так как мы узнали из различных автомобильных дилерских центров Chevrolet, которые предпочитали использовать версию GPT Openai только для того, чтобы клиенты начали обманывать его, чтобы предоставить им скидки на автомобили до 1 доллара.

Но Ask-AI использует другой подход, запуская новую модель Agnostic Enterprise Assistant Ai Assistant в качестве сегодняшнего расширения Chrome под названием Ask, который предназначен для того, чтобы расширить возможности агентов поддержки людей, предоставляя им контекстуальные данные в реальном времени о клиенте, с которыми они взаимодействуют в данный момент, ответы на общие вопросы и знания о предложениях и решениях своей компании-в порядке их ноги.

Основан для расширения возможностей человеческих агентов и сотрудников с ИИ

Основанная в Тель-Авиве, Израиль, в 2021 году, предпринимателем Алоном Талмором, а также совместно с крупным офисом в Торонто, Канада, сегодня также объявила, что она привлекла 11 миллионов долларов в финансировании серии A, во главе с фондом лидеров и поддержанным семенными инвесторами, включая Vertex Ventures, State Ventures, Gtmfund и других. В общей сложности, считая свой более ранний раунд семян, Ask-AI собрал более 20 миллионов долларов.

«Мы считаем, что на пересечении того, что вы (пользователь Enterprise) станет большой рынок, на пересечении того, что вы (пользователь предприятия) делаете прямо сейчас-допустим, что повторяющаяся задача, такая как ответ на электронную почту, ответа на билет на поддержку клиентов или просто выполнение своей работы в вашем CRM (программное обеспечение для управления взаимоотношениями с клиентами)-и с помощью данных компании и ИИ»,-сказал Талмор в Excutive Offormentsements.

Спросите это ИИ на стороне, когда это необходимо

Талмор описал, как работает новый Ask Sidekick: как расширение браузера Chrome, которое кажется боковой панелью и «открывается автоматически, в зависимости от того, что вы делаете», чтобы предоставить приложения и информацию, относящуюся к любой работе, которую вы выполняете в данный момент.

Спросите: «Не только делайте (ы), что вы делаете то, что делаете быстрее — предоставляя ответы на электронные письма и билеты, но и делаете это лучше и эффективнее».

Например, Талмор отметил, что для обслуживания клиентов и персонала поддержки Ask предоставляет «360 представление о том, что мы знаем» о каждом данном клиенте, который ранее взаимодействовал с бизнесом и ищет поддержку от агента.

Ask Ask Insust включает в себя «все соответствующие прошлые взаимодействия и основные моменты о том, что интересно в этом клиенте — их обновление?

Кроме того, Ask может выполнить «Действия вокруг генеративного искусственного интеллекта, например, отвечая на тонус компании», через проекты по электронной почте или чату клиента, «Отвечая на вопросники, выполняя аудит поддержки, существует широкий спектр приложений, которые мы действительно можем очень быстро создавать и добавить к этой (Ask) платформе Sidekick, чтобы принести ценность».

Важно отметить, что Ask AI Sidekick не действует сам по себе: каждый агент по поддержке клиентов должен принять или использовать информацию и ответы, полагаясь на их обучение и суждение, чтобы избежать видов ошибок и высоких обещаний полностью автоматизированных чат -ботов поддержки клиентов.

Высокая безопасность, высокая токальность, низкий уровень галлюцинации

Талмор также подчеркнул приверженность Айа-Ай сократить галлюцинации и воплощать ценности своей компании создания «очень высокой точности, решений высокой безопасности».

Он сказал, что Ask-AI делает это и отличает себя от других конкурентов в области поддержки клиентов, выполняя «реальную предварительную обработку и суммирование данных компании (клиента)», включая понимание уникального внутреннего жаргона компании.

Ask-AI также поддерживает широкий спектр ведущих моделей ИИ для питания своих предложений, в том числе GPT-3,5/4 Openai, Google Gemini, Meta с открытым исходным кодом и ее вариантов, таких как альпака.

Продукты искусственного интеллекта, которые подключаются и переваривают данные из существующих приложений — не требуется переключение

Основным преимуществом всего предложения Ask-AI, которое также включает в себя обезжиренную, богатую информацией панель в реальном времени под названием «Mosaic», заключается в том, что она может быть подключена к более чем 50 другими популярными предприятиями в общем использовании, включая Salesforce, Zendesk, Confluence и Slack, переваривание и анализ данных из этих источников, в отличие от разрешения Enterprise Culdess.

Это означает, что клиенты Ask-AI не должны рассматривать возможность переключения или отказ от корпоративного программного обеспечения, на которое они уже полагаются, и заплатить, и это хорошо подходит для их бизнеса.

Вместо этого, Sidekick и Dashboard Ask-AI просто расширяют и улучшают данные, уже создаваемые и хранящиеся этими другими сторонними приложениями и инструментами.

Обсуждая мозаичную панель Ask-AI, Талмор сказал VentureBeat, что «вы можете визуально увидеть, что являются повторяющимися проблемами и проблемами не только в билетах ваших клиентов, но и, например, в простых разговорах внутри компании… есть много болтовни в каналах компании, и вы хотите захватить это, чтобы повысить эффективность в компании».

Ask-AI считает, что результат использования обоих продуктов-его панели панели и Ask Sitekick-является значительным повышением эффективности в разных отделах, от поддержки клиентов до продаж, путем предоставления ключевых идей и действенных решений в режиме реального времени.

Несмотря на то, что изначально ориентируясь на агентов поддержки клиентов с помощью своего Ask Sidekick, Ask-AI также стремится обеспечить ценность другим сотрудникам предприятия, таким как аналитики и руководители, которые могут найти огромную ценность на панели панели.

Это сквозное решение показало осязаемые результаты по разнообразным клиентуре Ask-AI, которая включает в себя такие имена, как Monday.com, Callrail и Yotpo, достигая таких показателей, как сокращение времени в разрешении на 20% для получения поддержки.

Предыдущий успех с искусственным искусством предприятия

Предыдущий Bluetail Talmor Ai Venture был приобретен Salesforce, Ask-AI выполнял миссию по интеграции генеративного ИИ в ткань предприятий.

Талмор имеет докторскую степень по обработке естественного языка, а в его команде входят другие опытные профессионалы и ученые, в том числе профессор Джонатан Берант, Джош Соломон, Дафна Лавран и Медар Эяль.

С новым финансированием компания планирует удвоить размер в этом году.

Недавнее финансирование и инновационный подход Ask-AI к интеграции генеративного ИИ в корпоративные рабочие процессы могут помочь ему выделиться среди все более многолюдного пространства новых предложений по искусственному искусству.

Если вы описали свои симптомы для меня как бизнес -лидера, и я набрал их в CHATGPT, вы бы хотели, чтобы я генерировал и назначил план лечения, отправляя заказы своему местному фармацевту — без консультации с врачом?

Что если вам предложили торговлю: ведущие ученые в мире присоединятся к вашей организации, но с уловами, что каждый из ваших бизнес -экспертов должен присоединиться к вашему конкуренту, оставляя только данные для работы, и нет экспертов для обеспечения контекста?

В эпоху ИИ общественная площадь заполнена голосами, рекламирующими возможности, риски, угрозы и рекомендуемые практики для принятия генеративного ИИ-особенно языковых моделей, таких как GPT-4 или Bard. Новые модели с открытым исходным кодом, прорывы исследований и запуск продуктов объявляются ежедневно.

В разгар этого рыночного импульса акцент был сделан на возможности языковых моделей, но язык полезен только в сочетании со знаниями и пониманием. Если бы кто -то запомнил все слова в словаре, которые были связаны с химией и могли читать без знаний или понимания основных принципов, этот язык был бы бесполезным.

Получить рецепт правильно

Для языковых моделей это идет еще дальше и может вводить в заблуждение, потому что модели могут не только читать связанные слова, но и основные документы, структуры, фразы и рекомендации, которые были написаны экспертами.

Например, когда они попросили генерировать новый рецепт, они могут использовать корреляции между предыдущими рецептами и описаниями для создания нового рецепта, но они не знают, что вкусно — или даже то, что представляет собой опыт дегустации. Если нет никакой корреляции между смешиванием оливкового масла, кетчупа и персиков в прошлых рецептах, модели вряд ли будут смешивать эти ингредиенты — не потому, что они обладают знаниями или пониманием того, что вкусно, а из -за отсутствия корреляции между этими ингредиентами в своем наборе набора данных.

Таким образом, рецепт хорошего вкуса, созданный языковой моделью, является статистической вероятностью, за которую мы можем поблагодарить экспертов, рецепты которых были включены в исходные данные. Языковые модели являются мощными, и секретный ингредиент для их того, чтобы сделать их полезными, является опытом.

Экспертиза сочетает в себе язык со знаниями и пониманием

Фраза «корреляция не равна причинно-следственной связи» хорошо известна теми, кто работает с данными. Это относится к тому факту, что вы можете нарисовать ложную корреляцию между двумя не связанными вещами, неверно истолковывая связь, чтобы подразумевать, что одна вызвала другое, например, петух утра утром, приказывающим восхождение солнца.

Машины чрезвычайно полезны для выявления корреляций и моделей, но требуется опыт, чтобы определить, подразумевают ли эти истинные причины, и должны информировать о принятии решений (например, инвестировать в обучение петухов, чтобы вырушить на час раньше, чтобы получить дополнительный час дневного света).

В человеческом опыте обучения язык — только первый шаг. В детстве получают язык для маркировки вещей, людей, мест, глаголов и многого другого, их лиц, осуществляющие уход, используют его, чтобы привить знания. Мы живем на планете под названием Земля. Этот мяч в небе называется солнцем. Следующим шагом является понимание причины и следствия (причинность или причинность): солнце в небе заставляет вашу кожу чувствовать себя тепло. Прыжок в холодное озеро может охладить вас вниз.

К тому времени, когда мы прибываем во взрослую жизнь, мы усвоили сложные структуры опыта, которые состоят из языка, знаний (что) и понимания (почему).

Воссоздание структуры опыта

Рассмотрим любую тему. Если у вас есть язык без знаний или понимания, вы не эксперт. Я знаю, что у традиционного автомобиля есть трансмиссия, двигатель с поршнями, бензобак — у меня есть язык о автомобилях.

Но есть ли у меня знания? Я знаю, что автомобиль доставляет газ в двигатель посредством впрыскивания топлива, и есть реакция, связанная с стрельбой по поршням, и что это имеет решающее значение для продвижения автомобиля вперед. Но понимаю ли я, почему? И если это перестанет работать, я бы знал, как это исправить? К большому огорчению моего учителя в магазине средней школы мне нужно было бы нанять эксперта, который понял почему и знал, как это исправить, научился в практическом опыте.

Перевод этого в машинный контекст, языковые модели без знаний (представленные графами знаний и моделями) или понимание (представленное причинными моделями), никогда не должны принимать решения, поскольку они не имеют опыта. Языковая модель, принимающая решение самостоятельно, — это все равно, что дать набор инструментов и доступ к вашему автомобилю человеку, который запомнил только следующее, наиболее вероятное слово обо всем, что связано с автомобилями.

Итак, как мы используем потенциал языковых моделей, воссоздавая структуру опыта в машинах?

Начните с опыта и работать в обратном направлении

Машинное обучение (ML) и машинное обучение являются субдисциплинами в области перевода человеческого опыта на машинный язык, так что машины могут информировать человеческие решения, либо автономно принимать решения. Это может освободить человеческую способность сосредоточиться на решениях и обнаружении, которые либо слишком нюансы, либо для которых недостаточно данных, чтобы перевести на машинный язык.

ML начинается с вопроса о том, как лучше снабжать машины для обучения, а обучение машины начинается с вопроса о том, как лучше снабжать людей для обучения машинах.

Наиболее распространенным заблуждением в дискуссиях об ИИ и ML является то, что данные являются наиболее важным элементом, но опыт является наиболее важным элементом. В противном случае, что такое модель обучения? Конечно, это идентифицирует закономерности, классификации и расчесывание через миллионы строк данных за секунды. Но что делает эти шаблоны полезными?

Когда эксперт определил, что шаблон может проинформировать о решении, которое приносит пользу организации и ее клиентам, этот опыт может быть переведен на машинный язык, и машину можно научить связывать этот шаблон с бизнес -правилами и автономно принимать полезные решения.

Следовательно, процесс перевода опыта в машины не начинается с данных, он начинается с опыта и работает в обратном направлении. Примером этого является то, что оператор машины замечает, что определенные звуки, которые машина делает корреляцию с необходимыми корректировками. Когда он делает высокий свисток, например, температуру необходимо отказаться. Помимо полной рабочей нагрузки, оператор слушает в течение дня, если машина издает один из этих звуков. Нет существующих данных, которые соответствуют этой ситуации, но есть опыт.

Работать задом наперед из этого опыта довольно проста. Установите датчики, которые обнаруживают звуки, изготовленные машиной, затем работайте с экспертом, чтобы коррелировать эти звуки (частоты и комбинации децибел), чтобы внести необходимые корректировки для машины. Этот процесс может быть выгружен в автономную систему, освобождая время оператора для выполнения других обязанностей.

Определите наиболее критический опыт

Процесс построения решений ИИ должен начинаться с вопроса о том, какой опыт является наиболее важным для организации, за которым следует оценка уровня риска, связанного с потерей этой экспертизы или потенциального роста разгрузки этого экспертного решения на машину.

Есть ли в организации только один человек, который понимает этот процесс или как исправить систему, когда она снижается? Тысячи сотрудников следуют за тем же процессом каждый день, который можно было бы разгружаться в автономную систему, что освобождает дополнительные 30 минут в своих ежедневных календарях?

Третий шаг состоит в том, чтобы оценить, какой из тех, кто связан с наивысшей степенью риска или потенциального роста, может быть переведен на машинный язык. Это шаг, когда данные и инструменты (такие как языковые модели) вступают в разговор в качестве способного перевода опыта на машинный язык и взаимодействие с машинами.

К счастью для большинства организаций, основание для строительных экспертных систем уже была заложена, и в качестве отправной точки языковые модели могут либо ссылаться на то, чтобы ссылаться на опыт, который был запрограммирован в них.

Исследование в отношении операций

В ближайшее десятилетие мы увидим встряхивание секторов рынка, основанную на их инвестициях в ИИ.

Предупреждающей историей является появление видео по требованию: Netflix внедрил потоковую передачу в 2007 году. Блокбастер, поданный на банкротство три года спустя, несмотря на то, что в 1995 году инкубировал и пилотировал блокбастер по требованию.

К тому времени, когда конкурент вводит продукт или услугу, который достаточно продвинут с значимыми и дифференцированными приложениями ИИ, скорее всего, будет слишком поздно, чтобы разобраться или «быстро последуем», особенно с учетом времени и опыта, необходимых для разработки надежных приложений.

К 2030 году имена нарицательных, которые мы сейчас почитаем, присоединятся к ряду вместе с блокбастером, потому что они решили быстро следовать, и к тому времени, когда они увидели рыночные силы, которые будут их кончиной, было слишком поздно.

Вместо того, чтобы планировать ждать и отреагировать на инвестиции и события разработчиков, лидеры должны начать с вопроса о том, чего они могли бы достичь на рынке, что потребовало бы, чтобы все остальные могли сражаться, чтобы отреагировать на них.

В эпоху автономного преобразования организациями, которые лучше всего подходят для сохранения или расширения своей позиции на рынке, будут те, которые инвестируют в передачу оперативного опыта на машины и установление видения будущего рынка и той ценности, которую их организация может создать, вводя в эксплуатацию экспедиции в неизвестность, чтобы обнаружить, может ли это видение быть реализовано, в то время как он строго переведет открытия в каждую стоимость.

Брайан Эвергрин является основателем прибыльной хорошей компанииПолем Эта статья была написана в сотрудничестве с Роном Норрисом, директором по эксплуатации в инновациях в Грузия-Тихоокеанский региони Майкл Кэрролл, вице-президент по инновациям в Грузии-Тихоокеанском регионе.

Генеративное генерация кода с питанием от ИИ становится более мощным и более компактным.

Стабильность AI, поставщик, который, возможно, наиболее известен своим стабильным диффузионным текстом для генеративной технологии ИИ, сегодня объявил о своей первой новой модели ИИ в 2024 году: коммерчески лицензированный (через членство) стабильный код 3B.

Поскольку имя модели подразумевает стабильный код 3b является моделью параметров 3 миллиарда, и оно сосредоточено на возможностях завершения кода для разработки программного обеспечения.

В 3 миллиардах параметров стабильный код 3B может работать локально на ноутбуках без выделенных графических процессоров, в то же время обеспечивая конкурентную производительность и возможности против более крупных моделей, таких как Meta’s Codellama 7B.

Направление к более мелким, более компактным и способным моделям — это то, что AI стабильности начал продвигать вперед в конце 2023 года с такими моделями, как Stablelm Zephyr 3B для генерации текста.

Стабильность AI впервые предварительно просмотрел стабильный код в августе 2023 года с первоначальным выпуском Generation LLM и с тех пор неуклонно работает над улучшением технологий.

Как стабильность AI улучшила стабильный код 3b

Стабильность AI имеет улучшенный стабильный код несколькими способами с момента первоначального выпуска.

С новым стабильным кодом 3B модель не только предлагает новые строки кода, но также может заполнить более широкие пропущенные разделы в существующем коде.

Возможность заполнения пропущенных разделов кода является расширенной возможностью завершения кода, известной как заполнение в середине (FIM).

Обучение для модели была также оптимизирована с расширенным размером контекста с использованием методики, известной как вращающееся встроенные положения (веревка), при желании позволив длину контекста до 100 тыс. Токенов. Техника веревки — это та, которую также использует другие LLM, в том числе LlaMa 2 LlaMa 2.

Стабильный код 3B построен на стабильной модели LM 3B LM 3B. Благодаря дальнейшему обучению, ориентированному на данные разработки программного обеспечения, модель приобрела навыки завершения кода, сохраняя при этом сильные стороны в общих языковых задачах.

Его данные обучения включали репозитории кода, форумы программистов и другие технические источники.

Он также обучался на 18 различных языках программирования, а AI стабильности утверждает, что стабильный код 3B демонстрирует ведущую производительность на контрольных тестах на нескольких языках.

Модель охватывает популярные языки, такие как Python, Java, JavaScript, Go, Ruby и C ++. Ранние тесты указывают на то, что он соответствует или превышает качество завершения моделей в два раза в два раза.

Рынок для генеративных инструментов генерации кодов искусственного интеллекта конкурентоспособен с несколькими инструментами, включая Meta’s Codellama 7b, является одним из самых больших и популярных вариантов.

На стороне параметра в 3 миллиарда LLM StarCoder, который является совместно разработанным как усилие с открытым исходным кодом с участием IBM, HuggingFace и ServiceNow, является еще одним популярным вариантом.

Стабильность AI претендует на стабильный код 3B превосходит StarCoder через Python, C ++, JavaScript, Java, PHP и Rust -Languages.

Часть подписки на членство в стабильности

Стабильный код 3B предоставляется для коммерческого использования в рамках новой службы подписки на участие в стабильности AI, которая была впервые объявлена ​​в декабре.

Участники получают доступ к стабильному коду 3B вместе с другими инструментами искусственного интеллекта в портфеле AI Stability, включая инструменты генерации Diffusion Image SDXL, StableLm Zephyr 3B для генерации текстового контента, стабильный аудио для генерации звука, стабильное видео для генерации видео.

До того, как генеративный ИИ стал массовой отраслевой тенденцией, которой он является сегодня, был прогнозирующий ИИ, который, как следует из названия, помогает предоставить прогнозы о будущих событиях, основанных на данных. Но что, если бы вы могли объединить обе технологии в одну?

Это цель пекана AI. Восьмилетний стартап уже предлагает платформу прогнозирующей аналитики для предприятий и с момента его старта привлекла 116 миллионов долларов США, включая раунд в размере 66 миллионов долларов в феврале 2022 года.

Сегодня компания запускает новый инструмент, Predictive Genai, который сочетает в себе некоторые возможности современных генеративных возможностей ИИ с прогнозирующим машинным обучением.

«В то время как мы работали на нашей стороне соседства над классическими программами Analytics Solutions Classic Learning, на другой стороне района произошла вся революция Gen AI»,-сказал VentureBeat Зохар Бронфман, генеральный директор и соучредитель Pecan AI. «Одна вещь Gen AI ужасен, это создание прогнозов».

Хотя Gen AI не идеально подходит для прогнозирования, методы прогнозного машинного обучения не особенно удобны для пользователя. Прогнозирующий Genai от Pecan AI смешивает оба подхода, позволяющие ученым -ученым, которые теперь легче создавать и генерировать прогнозирующие модели ИИ.

Сделать предиктивный ИИ доступным для бизнес -пользователей

Ключевой целью для AI Pecan является помочь компаниям принять машинное обучение и ИИ самым простым способом.

Исторически, ученые -данные были основными пользователями платформ ИИ и, в частности, технологией прогнозного машинного обучения.

Бронфман сказал, что Pecan AI предназначен для доступности и стремится демократизировать возможности ИИ и довести его к людям, которые ближе к деловой стороне вещей внутри компаний.

Существует две части в предсказательную возможность Пекана ИИ.

1. Предсказательный чат-это функция, которая позволяет пользователям задавать запросы естественного языка через интерфейс в стиле чат-бот. Бронфман сказал, что цель состоит в том, чтобы помочь пользователю, у которого есть конкретная бизнес -проблема, более легко использовать конкретную предиктическую структуру, которая соответствует необходимости бизнеса.

2. Новая предиктивная ноутбука использует генеративный ИИ для создания ноутбука по науке о данных, который используется в качестве основы для построения прогнозирующей модели. Бронфман объяснил, что предиктивная записная книжка — это проприетарная записная книжка пекана AI, основанная на SQL. Он содержит сгенерированные ячейки, которые определяют преобразование нативных данных компании в набор данных A-i-yi-read для прогнозного моделирования. Каждая сгенерированная ячейка отвечает за элемент этого преобразования, такой как запросы, структурирование и соединение данных. Ячейки могут автоматически запускать в бэкэнд пекана AI прозрачным образом для пользователя. Однако, если пользователь хочет принять более глубокое участие, он может настроить ячейки с помощью SQL. В конце процесса ноутбук создает набор запросов, которые применяются к таблицам данных пользователя, чтобы преобразовать их из их собственного состояния в набор данных с AI, для библиотеки моделирования Pecan AI.

Почему обычный Gen AI не может предсказать (ну, если вообще)

Как известно, Gen AI хорош во многих разных вещах, таких как создание чат -ботов, суммирование контента и написание отчетов.

По мнению Бронфмана, Gen AI само по себе, однако, не подходит для прогнозирования по нескольким причинам.

Он сказал Venturebeat, что инструменты Gen Gen Gen, которые подвергаются воздействию во время обучения, не находятся в надлежащем формате AI-reade, необходимого для прогнозного моделирования.

Бронфман объяснил, что для прогнозирующей модели набор данных должен иметь каждую строку в качестве отдельного объекта, причем каждый столбец представляет определенную функцию и столбец метки для целевой переменной.

Однако в реальных сценариях бизнеса для получения наборов данных в этом формате требуется значительная работа по разработке данных.

Генеративные модели искусственного интеллекта не очень хороши для получения необработанных табличных данных из разных источников и превращать их в плоский, двумерный формат, необходимый для прогнозного моделирования. Это навык, который обычно требует опытного ученых данных.

По словам Бронфмана, использования векторной базы данных также недостаточно для полноценного прогнозирующего моделирования ИИ.

Он объяснил, что, хотя векторные базы данных и встраивания могут поддерживать базовые прогнозирующие возможности, работая с ограниченным набором функций, их недостаточно.

Бронфман сказал, что либо модели должны быть очень простыми, снимая только ограниченную картину, либо альтернативно ученому по данным все равно потребуется сделать относительно сложную инженерию функций, чтобы подготовить данные в надлежащем формате, прежде чем питать их более богатой прогнозной модели.

Инновации в подготовке данных помогают улучшить прогноз

В то время как разговорной прогнозирующий Gen AI может быть наиболее заметной новой способностью, Pecan AI продвигается вперед со своими запатентованными инновациями в отношении автоматизации подготовки данных и инженерии функций.

Среди инноваций для подготовки данных, над которыми работал Pecan AI, является автоматизация, чтобы помочь улучшить такие проблемы, как утечка данных, которые могут подорвать точность модели. В машинном обучении утечка данных относится к использованию информации, взятой из процесса обучения, которая обычно не будет доступна, когда будет сделан прогноз.

«НЕ ТРИВИЛЬНО в выявлении утечки, особенно если вы не профессиональный ученый», — сказал Бронфман. «Так что у нас есть, например, автоматизированные способы определения утечки».

Anpropic, крупный генеративный стартап ИИ, изложил свое дело, почему обвинения в нарушении авторских прав со стороны группы музыкальных издателей и владельцев контента недействительны в новом судебном процессе в среду.

Осенью 2023 года музыкальные издатели, включая Concord, Universal и Abkco, подали иск против антропного обвинения в его нарушении авторских прав над своим чат -ботом Клодом (теперь вытесненным Claude 2).

Жалоба, поданная в федеральный суд в Теннесси (дом Нэшвилла, одного из «музыкальных городов» Америки и многим лейблам и музыкантам), утверждает, что бизнес -прибыль Anpropic от «незаконного» сохранения песен из Интернета для обучения моделей ИИ, которые затем воспроизведены авторские тексты для пользователей в форме Chatbot Models.

Отвечая на ходатайство о предварительном судебном запрете — мере, которая, если это предоставлена ​​судом, заставит Антропику перестать делать свою модель Claude AI — Антропические изложены знакомые аргументы, которые появились во многих других спорах об авторских правах, связанных с данными обучения искусственного интеллекта.

Генеральные компании, такие как Openai и Anpropic, в значительной степени полагаются на очистку огромных объемов общедоступных данных, включая работы, защищенные авторским правом, для обучения их моделей, но они сохраняют это использование, представляет собой справедливое использование в соответствии с законом. Ожидается, что вопрос о соскобке данных об авторском праве достигнет Верховного суда.

Тексты песен только «Миноштальная фрэйон» данных обучающих

В своем ответе Антропик утверждает, что «использование текстов истцов для обучения Клода — это преобразующее использование», которое добавляет «дальнейшую цель или другой характер» к оригинальным работам.

Чтобы поддержать это, регистрация непосредственно цитирует директора по антропным исследованиям Джареда Каплану, заявляя, что цель состоит в том, чтобы «создать набор данных для обучения нейронной сети, как работает человеческий язык».

Anpropic утверждает, что его поведение «не оказывает« существенно неблагоприятного воздействия »на законном рынке для авторских прав истцов», отмечая тексты песен, составляющие «незначительную часть данных обучения и лицензирование необходимого шкалы несовместимо.

Присоединяясь к Openai, антропные претендуют на лицензирование обширных траекторов текста, необходимых для правильного обучения нейронных сетей, таких как Клод, технически и финансово невозможно. Обучение требует триллионы фрагментов в разных жанрах может быть недостижимой шкалой лицензирования для любой стороны.

Возможно, самый новый аргумент заявки утверждает, что сами истцы, а не антропные, участвующие в «волевом поведении», необходимом для прямой ответственности за нарушение в отношении результатов.

«Волевое поведение» в законе об авторском праве относится к идее о том, что лицо, обвиняемое в совершении нарушения, имеет контроль над выходными данными контента. В этом случае антроп, по сути, говорит, что истцы лейбла заставили свою модель ИИ Клод производить содержание нарушения, и, таким образом, контролируют и ответственны за нарушение, которое они сообщают, в отличие от антропного или его продукта Claude, который автономно реагирует на входы пользователей.

Подача указывает на доказательства, что выходы были получены через собственные «атаки» истцов на Клод, предназначенные для получения текстов.

Непоправимый вред?

Вдобавок к оспариванию ответственности за авторские права, Антропик утверждает, что истцы не могут доказать непоправимый вред.

Ссылаясь на отсутствие доказательств того, что доходы от лицензирования песни снизились с тех пор, как Клод запустил или что качественный вред — это «определенные и непосредственные», Антропик отметил, что сами издатели считают, что денежные ущербы могут сделать их целыми, что противоречит своим собственным заявлениям о «непохочном вредах» (поскольку по определению, принятие монетических повреждений будет указывать на вред, может быть, что это может быть в квадрате.

Антропик утверждает «чрезвычайное облегчение» судебного запрета против него, и его модели ИИ неоправдан, учитывая слабый показ истцов о непоправимом вреда. Он также утверждал, что любой результат текста Клода был непреднамеренной «ошибкой», которая теперь была зафиксирована с помощью новых технологических ограждений.

В частности, антропные заявления оно внедрило дополнительные гарантии в Клоде, чтобы предотвратить дальнейшее демонстрацию песен истцов, защищенных авторским правом. Поскольку предполагаемое поведение нарушения не может разумно возникнуть снова, производитель моделей говорит, что просьба истцов о помощи предотвращению того, чтобы Клод от вывода текстов был спор.

В нем утверждается, что запрос музыкальных издателей является чрезмерной дорогой, стремясь ограничить использование не только 500 представителей в этом случае, но и миллионы других, которые издатели далее утверждают, что контролируют.

Кроме того, ИИ запускал указал на место проведения Теннесси и заявил, что иск был подан в неверной юрисдикции. Антропик утверждал, что он не имеет соответствующих деловых связей с Теннесси. Компания отметила, что ее штаб -квартира и основные операции базируются в Калифорнии.

Кроме того, Антропик заявил, что ни одно из якобы нарушающих поведения, не указанного в иске, таких как обучение его технологии ИИ или предоставление пользовательских ответов, не произошло в пределах границ Теннесси.

В заявлении указывалось, что пользователи продуктов Anpropic согласились, что любые споры будут осуществляться в калифорнийских судах.

Авторские права борются далеко от конца

Битва за авторские права в растущей генеративной индустрии ИИ продолжает усилить.

Все больше художников присоединились к судебным процессам против генераторов искусства, таких как Midjourney и Openai, с моделью Dall-E последнего, что подтверждает доказательства нарушения от реконструкций диффузионной модели.

New York Times Недавно подал иск о нарушении авторских прав против OpenAI и Microsoft, утверждая, что их использование сокраснся Времена ‘ Контент для обучения моделей для CHATGPT и других систем искусственного интеллекта нарушал его авторские права. Иск требует миллиардов в ущербе и требованиях, которые любые модели или данные, обученные на Раз Содержание будет уничтожено.

На фоне этих дебатов некоммерческая группа под названием «справедливо подготовлен», запущенная на этой неделе, выступала за сертификацию «лицензированной модели» для данных, используемых для обучения моделей ИИ, поддерживаемых Concord и Universal Music Group, среди прочего.

Платформы также вступили, с антропными, Google и OpenAI, а также с такими контент -компаниями, такими как Shutterstock и Adobe, обещающие юридическую защиту для предприятий контента, сгенерированного ИИ.

Однако создатели не надоело, борются с заявками на отклонение претензий от таких авторов, как Сара Сильверман против Openai. Судьи должны будут взвесить технологический прогресс и законодательные права в нюансированных спорах.

Кроме того, регуляторы слушают опасения по поводу данных DataMining. Судебные иски и слушания в Конгрессе могут решить, что присваивания справедливого использования, пропитанные ассигнованиями, разочаровывают некоторые, одновременно позволяя другим. В целом, переговоры кажутся неизбежными, чтобы удовлетворить всех участников, когда генеративные созревания ИИ.

То, что происходит дальше, остается неясным, но подача заявки на этой неделе предполагает, что генеративные компании ИИ объединяются вокруг основного набора справедливого использования и обороны на основе вреда, заставляя суды взвесить технологический прогресс против контроля владельцев прав.

Как сообщалось ранее Venturebeat, до сих пор ни один из них не выиграл предварительный судебный запрет в этих типах споров искусственного интеллекта. Аргументы Anpropic направлены на то, чтобы этот прецедент сохранился, по крайней мере, на этом этапе в одном из многих продолжающихся юридических сражений. Эндранг еще предстоит увидеть.

Именно здесь: спустя месяцы после того, как он был впервые объявлен, «Палатный вечер», новый, бесплатный программный инструмент, позволяющий художникам «ядовать» модели искусственного интеллекта, стремящиеся тренироваться на своих работах, теперь доступен для артистов для загрузки и использования на любых произведениях, которые они считают нужными.

Разработанный компьютерными учеными в проекте Glaze в Чикагском университете при профессоре Бена Чжао, инструмент по сути работает, превращая ИИ против ИИ. Он использует популярную структуру машинного обучения с открытым исходным кодом, чтобы определить, что находится на данном изображении, а затем применяет тег, который тонко изменяет изображение на уровне пикселей, чтобы другие программы искусственного интеллекта видят что-то совершенно иное, чем то, что на самом деле там.

Сегодня день. Паслен V1.0 готов. Настройка производительности выполняется, исправления пользовательского интерфейса выполняются.

Вы можете скачать Phonleshade v1.0 fromhttps: //t.co/knwljsrrrh

Пожалуйста, прочитайте страницу «Что есть», а также руководство пользователя о том, как запустить паслен. Это немного более вовлечено, чем глазурь

— глазурь в Учикаго (@TheGlazeProject) 19 января 2024 года

Это второй такой инструмент от команды: почти год назад команда представила Glaze, отдельную программу, предназначенную для изменения цифровых произведений искусства по предложению пользователя, чтобы запутать алгоритмы обучения искусственного интеллекта, чтобы думать, что изображение имеет другой стиль, чем то, что на самом деле присутствует (например, разные цвета и кожуры щетки, чем есть на самом деле).

Но в то время как чикагская команда разработала Glaze, чтобы стать оборонительным инструментом — и все еще рекомендует художникам использовать его в дополнение к пасленам, чтобы не подражать стилю художника от ИИ -моделей — паслен предназначен как «атакующий инструмент».

Модель ИИ, которая в конечном итоге тренировалась на многих изображениях, измененных или «затенена» с пасленом, вероятно, ошибочно классифицирует объекты, идущие вперед для всех пользователей этой модели, даже на изображениях, которые не были затенены с пасленом.

«Например, человеческие глаза могут увидеть затененный Изображение коровы в зеленом поле в значительной степени неизменным, но модель ИИ может увидеть большой кожаный кошелек, лежащий в траве », — объясняет команда.

Таким образом, модель ИИ, обученная изображениям коровы, заштрихованной, чтобы выглядеть так, будто кошелек начнет генерировать кошельки вместо коров, даже когда пользователь попросил модель сделать изображение коровы.

Требования и как работает паслен

Художники, стремящиеся использовать паслен, должны иметь Mac с чипсами Apple внутри (M1, M2 или M3) или ПК, работающий с Windows 10 или 11. Инструмент можно загрузить для обоих OSES здесь. Файл Windows также способен работать на графическом процессоре ПК, при условии, что он из Nvidia в этом списке поддерживаемого оборудования.

Некоторые пользователи также сообщили о длительном времени загрузки из -за подавляющего спроса на инструмент — до восьми часов в некоторых случаях (две версии имеют размеры 255 МБ и 2,6 ГБ для Mac и ПК соответственно.

Пользователи также должны согласиться с лицензионным соглашением об конечном пользователе (Eula) Глазурь/Паслен, которое предусматривает, что они используют инструмент на машинах под их контролем и не изменяют базовый исходный код и не «воспроизводят, копируют, распределяют, перепродают или не используют программное обеспечение для каких-либо коммерческих целей».

Паслен V1.0 «Преобразует изображения в образцы« ядовитой », так что (AI) модели, обучающие их без согласия, увидят, что их модели изучают непредсказуемые поведения, которые отклоняются от ожидаемых норм, например, в подсказке, которая запрашивает изображение коровьей в космосе, может вместо этого получить изображение сумочки, плавающей в космосе», — говорится в сообщении блога от команды по разработке на своем веб -сайте.

То есть, используя паслен V 1.0 для «затенения» изображения, изображение будет преобразовано в новую версию благодаря библиотекам ИИ с открытым исходным кодом-в идеале достаточно тонко, чтобы оно не выглядело сильно отличаться от человеческого глаза, но, похоже, он содержит Совершенно разные предметы на любые модели искусственного интеллекта, обучая его.

Кроме того, инструмент устойчив к большинству типичных преобразований и изменений, которые пользователь или зритель может сделать для изображения. Как объясняет команда:

«Вы можете обрезать его, повторно его, сжимать, сгладить пиксели или добавить шум, и последствия яда останутся. Вы можете сделать снимки экрана или даже фотографии изображения, отображаемого на мониторе, и эффекты оттенка остаются. Опять же, это потому, что это не водяное значение или скрытое сообщение (стягаграфия), и это не является Брифтикой».

Аплодисменты и осуждение

В то время как некоторые артисты поспешили загрузить паслен V1.0 и уже используют его-среди них Келли МакКернан, один из бывших ведущих истцов художника в продолжающемся классном судебном процессе по вопросам нарушения авторских действий против AI Art и Video Generation Midjourney, Deviantart, взлетно-посадочной полосы и стабильности AI-некоторые веб-пользователи, которые предлагают это, и это, как это представляет, что это связано с тем, что это связано с тем, что это связано с тем, что это так, и это. (Venturebeat использует Midjourney и другие генераторы изображений искусственного интеллекта для создания художественных работ статьи.)

Я ужасно взволнован, чтобы поделиться тем, что «артефакт» был застеклен и пришлет @Theglazeproject И какой идеальный кусок для этого тоже. Это картина о генеративном ИИ каннибализирую подлинного голоса человеческих креативщиков. Когда это изображение соскреблено для обучения, хорошо … pic.twitter.com/0vnfiyabc2

— Келли Маккернан? C2E2 I-11 (@kelly_mckernan) 14 января 2024 года

Ахахах Коуп безумен.
Чувак законен спорить против остекления ваших изображений, потому что это «незаконно» в его глазах.
Он сравнил его с взломом своего компьютера, потому что он «нарушает его операцию»

Я в восторге pic.twitter.com/bhmp73bkub

— Джейд Лоу (@Jadel4W) 19 января 2024 года

Команда глазурь/паслен, со своей стороны, отрицает, что она ищет разрушительные цели, написание: «Цель паслена — не сломать модели, а увеличить стоимость обучения нелицензированным данным, так что лицензирование изображений от своих создателей становится жизнеспособной альтернативой».

Другими словами, создатели стремятся сделать так, чтобы разработчики моделей ИИ должны платить художникам, чтобы обучать данные, которые не связаны.

Последний фронт в быстро меняющейся борьбе за соскоба данных

Как мы сюда попали? Все сводится к тому, как были обучены генераторы изображений искусственного интеллекта: соскабливая данные со всей Интернета, включая соскабливание оригинальных произведений искусства, опубликованных художниками, которые не имели предварительных явных знаний, ни власти принятия решений об этой практике, и говорят, что результирующие модели ИИ, обученные их работам, угрожают их жизни, конкурируя с ними.

Как сообщается в Venturebeat, скрасивание данных включает в себя простые программы, называемые «ботами», промыть Интернет, а также копировать и преобразовать данные с публичных веб -сайтов в другие форматы, которые полезны для человека или сущности, выполняющего соскабливание.

Это была обычная практика в Интернете и часто используется до появления генеративного ИИ, и это примерно такая же методика, используемая Google и Bing для ползания и индексных веб -сайтов в результатах поиска.

Но это стало под новым анализом со стороны художников, авторов и креативщиков, которые возражают против их работы без их явного разрешения на обучение коммерческих моделей искусственного интеллекта, которые могут конкурировать или заменить свой рабочий продукт.

Создатели моделей ИИ защищают эту практику как не только необходимую для обучения своих творений, но и законно под «справедливым использованием», юридическая доктрина в США, в которой говорится, что предыдущая работа может использоваться в новой работе, если она трансформирована и используется для новой цели.

Хотя компании, такие как OpenAI, ввели код «отказа», который возражающие могут добавить к своим веб-сайтам, чтобы избежать соскобки для обучения искусственному интеллекту, в прошлом отмечает, что «списки отказа от не учитываются модель уверенность.»

Тогда паслен был задумано и разработан как инструмент для «решения этой асимметрии мощности».

Команда также объясняет их конечную цель:

«Ответственно, паслен может помочь удержать тренеров-моделей, которые игнорируют авторские права, списки отказа и не сбрасывают/роботы.

В основном: сделайте широко распространенную очистку данных для производителей моделей искусственного интеллекта, и заставьте их дважды подумать о том, чтобы сделать это, и, таким образом, заставляют их рассмотреть вопрос о заключении лицензионных соглашений с художниками -художниками как более жизнеспособной альтернативой.

Конечно, паслен не может изменить поток времени: любые произведения искусства, скрещенные до того, как его затеняют инструментом, все еще использовались для обучения моделей ИИ, и затенение сейчас может повлиять на эффективность модели в будущем, но только если эти изображения будут перестрочены и используются снова для обучения обновленной версии модели генератора изображений ИИ.

На техническом уровне также нет ничего, что не помешает кому-то использовать паслен для затенения искусства, сгенерированных AI, или произведения искусства, который они не создали, открывая дверь для потенциальных злоупотреблений.

Подсказка — это способ, которым мы получаем генеративные ИИ и крупные языковые модели (LLMS), чтобы поговорить с нами. Само по себе это художественная форма, поскольку мы стремимся заставить ИИ предоставить нам «точные» ответы.

Но как насчет вариаций? Если мы построим подсказку определенным образом, изменит ли это решение модели (и повлияет на ее точность)?

Ответ: Да, согласно исследованию Института информационных наук Университета Южной Калифорнии.

Даже крошечные или, казалось бы, безобидные настройки, такие как добавление пространства к началу подсказки или давая директиву, а не задание вопроса, могут привести к изменению LLM. Более тревожно, запрашивать ответы в XML и применение обычно используемых джейлбрейков может иметь «катастрофические эффекты» на данные, помеченные моделями.

Исследователи сравнивают это явление с эффектом бабочки в теории хаоса, которая указывает на то, что незначительные возмущения, вызванные бабочкой, хлопающей его крыльями, несколько недель спустя вызвали торнадо в отдаленной земле.

При подсказывании «каждый шаг требует ряда решений от человека, разрабатывающего подсказку», пишут исследователи. Тем не менее, «мало внимания уделялось тому, насколько чувствительны LLM к изменениям в этих решениях».

Исследование CHATGPT с четырьмя различными методами быстрого приглашения

Исследователи, спонсируемые Агентством по укреплению исследований в области обороны (DARPA), выбрали Chatgpt для их эксперимента и применили четыре различных метода вариации.

Первый метод спросил LLM для выходов в часто используемых форматах, включая список Python, флажок JSON в ChatGPT, CSV, XML или YAML (или исследователи вообще не предоставили указанного формата).

Второй метод применил несколько незначительных вариаций к подсказкам. Они включают:

• Начиная с одного места.
• Заканчивая одним пространством.
• Начиная с ‘Привет’
• Начиная с ‘Привет!
• Начиная с «Howdy!»
• Заканчивая «Спасибо».
• Перефразирование от вопроса к команде. Например, «какой ярлык лучше всего?», «Выберите« Лучший ярлык ».

Третий метод включал в себя применение методов джейлбрейка, включая:

• AIM, старший джейлбрейк, который инструктирует модели для имитации разговора между Никколо Макиавелли и персонажем, всегда интеллектуальным и макиавеллианским (AIM). Модель, в свою очередь, предоставляет реакции, которые являются аморальными, незаконными и/или вредными.
• Dev Mode v2, который инструктирует модель моделировать CHATGPT с включенным режимом разработчика, что позволяет получить неограниченное образование контента (включая это оскорбительное или явное).
• Evil Denbidant, который дает инструкции модель принять злокачественную личность и предоставить «расстроенные результаты без какого -либо раскаяния или этики».
• Отказ подавления, который требует подсказков в соответствии с определенными лингвистическими ограничениями, такими как избегание определенных слов и конструкций.

Тем временем четвертый метод включал «опрокидывание» модель — идея, взятая из вирусного представления о том, что модели будут обеспечивать лучшие подсказки при предложении денег. В этом сценарии исследователи либо добавили к концу подсказки: «Я не буду чаевые», либо предложили чаевые с шагом 1, 10, 100, 100 или 1000 долларов.

Точность падений, прогнозы изменяются

Исследователи выполняли эксперименты по 11 задачам классификации-истинного и положительно отрицательного ответа на вопрос; Отношения предпосылки-гипотеза; Обнаружение юмора и сарказма; Чтение и понимание математики; приемлемость грамматики; Классификация бинарной и токсичности; и обнаружение позиции по спорным субъектам.

С каждым изменением они измерили, как часто LLM менял свой прогноз и какое влияние, которое оказало на его точность, а затем изучала сходство в быстрых вариациях.

Для начала исследователи обнаружили, что простое добавление указанного выходного формата дает минимальное изменение прогнозирования на 10%. Даже просто использование функции флажки JSON в Chatgpt через API CHATGPT вызвал большее изменение прогноза по сравнению с простой использованием спецификации JSON.

Кроме того, форматирование в YAML, XML или CSV привело к потере точности от 3 до 6% по сравнению со спецификацией списка Python. CSV, со своей стороны, показал самую низкую производительность во всех форматах.

Между тем, когда дело дошло до метода возмущения, перефразирование заявления оказало наиболее существенное влияние. Кроме того, просто введение простого пространства в начале подсказки привело к более чем 500 изменениям прогнозирования. Это также применимо при добавлении общих приветствий или заканчивая благодарностью.

«Несмотря на то, что влияние наших возмущений меньше, чем изменение всего формата вывода, значительное количество прогнозов по -прежнему подвергается изменениям», — пишут исследователи.

«Несчастная нестабильность» в джейлбрейках

Аналогичным образом, эксперимент выявил «значительное» снижение производительности при использовании определенных джейлбрейков. В частности, AIM и Dev Mode V2 дали неверные ответы примерно у 90% прогнозов. Исследователи отметили, что это в первую очередь связано со стандартным ответом модели: «Извините, я не могу выполнить этот запрос».

Между тем, подавление отказа и использование злого доверенного лица привело к более чем 2500 изменениям прогнозирования. Злой доверник (направляемый к «рассеянным» ответам) дал низкую точность, в то время как только подавление отказа приводит к потере более чем 10% точности, «подчеркивая внутреннюю нестабильность даже в кажущихся безобидными джейлбрейками», — подчеркивают исследователи.

Наконец, (по крайней мере, на данный момент), модели, похоже, не могут быть легко раскручены деньгами, показало исследование.

«Когда дело доходит до влияния на модель путем указания наконечника по сравнению с указанием, мы не будем чаевые, мы заметили минимальные изменения производительности», — пишут исследователи.

LLMS молоды; Есть гораздо больше работы

Но почему небольшие изменения в подсказках приводят к таким значительным изменениям? Исследователи все еще озадачены.

Они спросили, были ли экземпляры, которые изменились больше всего, «запутали» модель — путаница, относящаяся к энтропии Шеннона, которая измеряет неопределенность в случайных процессах.

Чтобы измерить эту путаницу, они сосредоточились на подмножестве задач, которые имели отдельные человеческие аннотации, а затем изучали корреляцию между путаницей и вероятностью того, что его ответ изменил. Благодаря этому анализу они обнаружили, что это было «не совсем».

«Путаница этого экземпляра обеспечивает некоторую объяснительную силу, почему прогнозирование изменяется, — сообщают исследователи, — но есть и другие факторы».

Очевидно, что еще много работы предстоит проделать. Исследователи отмечают, что очевидным «основным следующим шагом» будет создание LLM, которые устойчивы к изменениям и предоставляют последовательные ответы. Это требует более глубокого понимания того, почему ответы меняются при незначительных настройках и развития способов лучше их предвидеть.

Как пишут исследователи: «Этот анализ становится все более важным, поскольку CHATGPT и другие крупные языковые модели интегрированы в системы в масштабе».