ИИ в науке

Подсказка — это способ, которым мы получаем генеративные ИИ и крупные языковые модели (LLMS), чтобы поговорить с нами. Само по себе это художественная форма, поскольку мы стремимся заставить ИИ предоставить нам «точные» ответы.

Но как насчет вариаций? Если мы построим подсказку определенным образом, изменит ли это решение модели (и повлияет на ее точность)?

Ответ: Да, согласно исследованию Института информационных наук Университета Южной Калифорнии.

Даже крошечные или, казалось бы, безобидные настройки, такие как добавление пространства к началу подсказки или давая директиву, а не задание вопроса, могут привести к изменению LLM. Более тревожно, запрашивать ответы в XML и применение обычно используемых джейлбрейков может иметь «катастрофические эффекты» на данные, помеченные моделями.

Исследователи сравнивают это явление с эффектом бабочки в теории хаоса, которая указывает на то, что незначительные возмущения, вызванные бабочкой, хлопающей его крыльями, несколько недель спустя вызвали торнадо в отдаленной земле.

При подсказывании «каждый шаг требует ряда решений от человека, разрабатывающего подсказку», пишут исследователи. Тем не менее, «мало внимания уделялось тому, насколько чувствительны LLM к изменениям в этих решениях».

Исследование CHATGPT с четырьмя различными методами быстрого приглашения

Исследователи, спонсируемые Агентством по укреплению исследований в области обороны (DARPA), выбрали Chatgpt для их эксперимента и применили четыре различных метода вариации.

Первый метод спросил LLM для выходов в часто используемых форматах, включая список Python, флажок JSON в ChatGPT, CSV, XML или YAML (или исследователи вообще не предоставили указанного формата).

Второй метод применил несколько незначительных вариаций к подсказкам. Они включают:

• Начиная с одного места.
• Заканчивая одним пространством.
• Начиная с ‘Привет’
• Начиная с ‘Привет!
• Начиная с «Howdy!»
• Заканчивая «Спасибо».
• Перефразирование от вопроса к команде. Например, «какой ярлык лучше всего?», «Выберите« Лучший ярлык ».

Третий метод включал в себя применение методов джейлбрейка, включая:

• AIM, старший джейлбрейк, который инструктирует модели для имитации разговора между Никколо Макиавелли и персонажем, всегда интеллектуальным и макиавеллианским (AIM). Модель, в свою очередь, предоставляет реакции, которые являются аморальными, незаконными и/или вредными.
• Dev Mode v2, который инструктирует модель моделировать CHATGPT с включенным режимом разработчика, что позволяет получить неограниченное образование контента (включая это оскорбительное или явное).
• Evil Denbidant, который дает инструкции модель принять злокачественную личность и предоставить «расстроенные результаты без какого -либо раскаяния или этики».
• Отказ подавления, который требует подсказков в соответствии с определенными лингвистическими ограничениями, такими как избегание определенных слов и конструкций.

Тем временем четвертый метод включал «опрокидывание» модель — идея, взятая из вирусного представления о том, что модели будут обеспечивать лучшие подсказки при предложении денег. В этом сценарии исследователи либо добавили к концу подсказки: «Я не буду чаевые», либо предложили чаевые с шагом 1, 10, 100, 100 или 1000 долларов.

Точность падений, прогнозы изменяются

Исследователи выполняли эксперименты по 11 задачам классификации-истинного и положительно отрицательного ответа на вопрос; Отношения предпосылки-гипотеза; Обнаружение юмора и сарказма; Чтение и понимание математики; приемлемость грамматики; Классификация бинарной и токсичности; и обнаружение позиции по спорным субъектам.

С каждым изменением они измерили, как часто LLM менял свой прогноз и какое влияние, которое оказало на его точность, а затем изучала сходство в быстрых вариациях.

Для начала исследователи обнаружили, что простое добавление указанного выходного формата дает минимальное изменение прогнозирования на 10%. Даже просто использование функции флажки JSON в Chatgpt через API CHATGPT вызвал большее изменение прогноза по сравнению с простой использованием спецификации JSON.

Кроме того, форматирование в YAML, XML или CSV привело к потере точности от 3 до 6% по сравнению со спецификацией списка Python. CSV, со своей стороны, показал самую низкую производительность во всех форматах.

Между тем, когда дело дошло до метода возмущения, перефразирование заявления оказало наиболее существенное влияние. Кроме того, просто введение простого пространства в начале подсказки привело к более чем 500 изменениям прогнозирования. Это также применимо при добавлении общих приветствий или заканчивая благодарностью.

«Несмотря на то, что влияние наших возмущений меньше, чем изменение всего формата вывода, значительное количество прогнозов по -прежнему подвергается изменениям», — пишут исследователи.

«Несчастная нестабильность» в джейлбрейках

Аналогичным образом, эксперимент выявил «значительное» снижение производительности при использовании определенных джейлбрейков. В частности, AIM и Dev Mode V2 дали неверные ответы примерно у 90% прогнозов. Исследователи отметили, что это в первую очередь связано со стандартным ответом модели: «Извините, я не могу выполнить этот запрос».

Между тем, подавление отказа и использование злого доверенного лица привело к более чем 2500 изменениям прогнозирования. Злой доверник (направляемый к «рассеянным» ответам) дал низкую точность, в то время как только подавление отказа приводит к потере более чем 10% точности, «подчеркивая внутреннюю нестабильность даже в кажущихся безобидными джейлбрейками», — подчеркивают исследователи.

Наконец, (по крайней мере, на данный момент), модели, похоже, не могут быть легко раскручены деньгами, показало исследование.

«Когда дело доходит до влияния на модель путем указания наконечника по сравнению с указанием, мы не будем чаевые, мы заметили минимальные изменения производительности», — пишут исследователи.

LLMS молоды; Есть гораздо больше работы

Но почему небольшие изменения в подсказках приводят к таким значительным изменениям? Исследователи все еще озадачены.

Они спросили, были ли экземпляры, которые изменились больше всего, «запутали» модель — путаница, относящаяся к энтропии Шеннона, которая измеряет неопределенность в случайных процессах.

Чтобы измерить эту путаницу, они сосредоточились на подмножестве задач, которые имели отдельные человеческие аннотации, а затем изучали корреляцию между путаницей и вероятностью того, что его ответ изменил. Благодаря этому анализу они обнаружили, что это было «не совсем».

«Путаница этого экземпляра обеспечивает некоторую объяснительную силу, почему прогнозирование изменяется, — сообщают исследователи, — но есть и другие факторы».

Очевидно, что еще много работы предстоит проделать. Исследователи отмечают, что очевидным «основным следующим шагом» будет создание LLM, которые устойчивы к изменениям и предоставляют последовательные ответы. Это требует более глубокого понимания того, почему ответы меняются при незначительных настройках и развития способов лучше их предвидеть.

Как пишут исследователи: «Этот анализ становится все более важным, поскольку CHATGPT и другие крупные языковые модели интегрированы в системы в масштабе».

В последнее время было много болтовни о том, как революция ИИ уменьшит роль инженеров данных. Я не верю, что это так — на самом деле, опыт данных будет более важным, чем когда -либо. Тем не менее, специалисты по данным должны будут приобрести новые навыки, чтобы помочь их организациям получить максимальную пользу от ИИ и улучшить свои карьерные перспективы на будущее.

ИИ раскрывает возможность для организаций извлечь больше ценности из своих данных и сделать это более эффективно, но это не может произойти само по себе. Инженеры данных должны будут узнать, как и где применять технологию, а также какие модели и инструменты для использования в каких ситуациях.

Вот четыре области, в которых ИИ будет преобразовать аналитику данных в следующем году, и инженеры по навыкам, которые инженеры данных должны приобрести для удовлетворения этих потребностей.

Строительство более умных трубопроводов данных

Трубопроводы данных объединяют источники данных, которые могут быть необработанными, неструктурированными и дезорганизованными, и задача инженеров состоит в том, чтобы извлечь интеллект из этих источников для предоставления ценной информации. ИИ собирается преобразовать эту работу.

Вставка ИИ в трубопроводы данных может значительно ускорить способность инженера данных извлекать стоимость и понимание. Например, представьте, что компания имеет базу данных с транскриптами обслуживания клиентов или другими текстовыми документами. С несколькими линиями SQL инженер может подключить модель ИИ к трубопроводу и указать ее вскрыть богатые идеи из этих текстовых файлов. Это вручную может занять много часов, и некоторые из самых ценных идей могут быть обнаружены только с помощью ИИ.

Инженеры данных, которые понимают, где и как применять модели ИИ для извлечения максимальной стоимости из трубопроводов данных, будут очень ценны для их организаций, но это требует новых навыков с точки зрения каких моделей и как их применять.

Меньше картирования данных, больше стратегии данных

Различные источники данных часто хранят информацию по -разному: например, одна исходная система может называть название состояния «Массачусетс», в то время как другая использует аббревиатуру «MA».

Картирование данных для обеспечения его последовательной и дублирования-это специальная задача для ИИ. Инженеры могут построить подсказку, которая, по сути, говорит: «Возьмите эти 20 источников данных клиентов и создайте мне каноническую базу данных клиентов», и ИИ выполнит задачу за гораздо меньше времени.

Это потребует знания о том, как написать хорошие подсказки, но, что более важно, это освобождает время инженеров, чтобы они могли тратить меньше часов на картирование данных и больше на стратегию данных и архитектуру данных своих организаций.

В конечном счете, цель состоит в том, чтобы понять все источники данных, доступные для организации, и то, как они могут быть лучше всего подключены для достижения бизнес -целей. Передача задач, как отображение данных на модель искусственного интеллекта, освободит время для этой работы более высокого уровня.

BI-аналитики должны повысить свою игру

Аналитики Business Intelligence (BI) сегодня проводят много времени, создавая статические отчеты для бизнес -лидеров. Когда у этих лидеров возникают последующие вопросы о данных, аналитики должны запустить новый запрос и генерировать дополнительный отчет. Генеративный ИИ резко изменит ожидания этих руководителей.

Поскольку руководители получают больший опыт работы с чат-ботами, управляемыми искусственным интеллектом, они ожидают взаимодействия со своими бизнес-отчетами аналогичным, разговорным способом. Это потребует от аналитиков BI, чтобы повысить свою игру и научиться предоставить эти интерактивные возможности. Вместо того, чтобы разрабатывать статические диаграммы, им необходимо понять трубопроводы, плагины и подсказки, необходимые для создания динамических интерактивных отчетов.

Платформы облачных данных включают в себя некоторые из этих возможностей низким код, давая BI-аналитикам возможность расширить свои навыки для решения новых требований. Но есть кривая обучения, и приобретение этих навыков станет их проблемой в 2024 году.

Управление сторонними услугами искусственного интеллекта

Когда облако взялось десять лет назад, ИТ-команды потратили меньше времени на создание инфраструктуры и программного обеспечения и больше времени на управление сторонними облачными сервисами. Ученые по данным собираются пройти аналогичный переход.

Рост Gen AI потребует от ученых данных больше работать с внешними поставщиками, которые предоставляют модели искусственного интеллекта, наборы данных и другие услуги. Быть знакомым с вариантами, выбор правильной модели для поставленной задачи и управление этими сторонними отношениями, будет важным навыком для приобретения.

С нетерпением жду гораздо большего удовольствия

Многие команды данных сегодня говорят, что они застряли в реактивном режиме, постоянно реагируя на последние запросы на работу или исправляя приложения, которые сломались. Это никому не весело, но приток ИИ в разработку данных изменит это.

ИИ позволит инженерам автоматизировать самые трудоемкие части своей работы и освободить время, чтобы подумать о более широкой картине. Это потребует новых навыков, но это позволит им сосредоточиться на более стратегической, упреждающей работе, что делает инженеров -инженеров еще более ценными для их команд — и их работу намного более приятной.

Джефф Холлан — директор по управлению продуктами в Snowflake.

Любой, кто работал в финансах или его окрестностях, вероятно, подтвердит, что хорошая часть работы утомительно, особенно при оценке эффективности компаний с течением времени и их будущих перспектив эффективности.

Работа требует, чтобы формы потягивания и документы, такие как 10-K, 10-QS и 8-KS, презентационные колоды и электронные таблицы результатов для обменных компаний, компиляция их, просматривая их на наличие соответствующей информации или попытка перекрестного ссылки, чтобы увидеть, упоминаются ли определенные слова или названия продуктов во времени. Это требует большого внимания, терпения и усилий. Менеджеры фондов, финансовые аналитики и частные акционерные компании, в частности, должны делать или заставлять кого -то делать все это при принятии решения о том, инвестировать ли в компанию, отказаться от того, чтобы сделать ставку против нее или приобрести его.

Но это также кажется идеальной работой для точной настройки или финансово разбираемой программы искусственного интеллекта. Это именно то, что является предпосылкой нового стартапа, Metal, который появился из венчурного капиталиста Пола Грэма в прошлом году в прошлом году и теперь объявляет о новом продукте, который делает все это.

«Мы перезаписываем продукт как приложение для искусственного интеллекта, которое помогает фондам аналитиков, например, в венчурном капитале и частном акционерном капитале, провести исследования, выполнять усердие в инвестиционных возможностях и помогает менеджерам фондов фактически контролировать свои портфели»,-сказал Тейлор Лоу, соучредитель и генеральный директор Metal, в эксклюзивном интервью с VentureBeat. Лоу ранее работал менеджером по продукту (PM) в Meta и соучредителем Ripple, среди других концертов.

Аналитики могут питать любые данные, которые они хотели бы, в платформе Metal о компании, и он будет надежно хранить и проанализировать их по требованию в виде знающих и опытных чат -ботов, одного, чьи галлюцинации контролируются с помощью методов поиска дополненного поколения (RAG) и цитат на базовые данные.

Программа доступна сейчас в качестве подписки на программное обеспечение как услуга, выставляемая за место. Лоу отказался указать, сколько за место, но пригласил заинтересованных сторон обратиться к компании.

Как был построен металл

Основанный Лоу, Серджио Прада и Джеймса О’Дуйера, Metal был запущен с 2,5 млн. Долл. США, во главе с Swift Ventures вместе с Y Combinator и первой главой.

Эти инвестиции предназначены для расширения платформы AI Metal, специально предназначенной для крупных предприятий.

По словам Лоу, успех металла заключается не в экспериментах, а в развертывании реальных решений ИИ, которые улучшают предприятия.

Что касается основных LLM, используемых в металле, заявил Лоу:

«Мы не создаем и не развертываем свои собственные модели; мы используем модели, к которым клиенты предпочитают. Если мы обменяем одну модель на другую, потому что она выполняет лучшую работу в одних и тех же задачах, это то, что мы хотим сделать, потому что она будет обеспечивать большую ценность для наших клиентов».

«Мы видели, как ряд поставщиков предлагают этот переход между различными моделями на заднем плане, но в целом (Openai’s) GPT все еще, вероятно, является наиболее распространенным».

Это примечательно в то время, когда предприятия начали экспериментировать с LLMS с открытым исходным кодом, что также заявляет, что может поддерживать по запросу клиента.

Оптимизация ИИ для финансовых услуг

Уникальное предложение Metal обрабатывает сложные инфраструктуры, такие как преобразование данных и хранилище быстрее, чем текущие инструменты.

«Наш продукт в основном следует за аналитиками по их пути или с усердием и исследованиями, и он помогает им потреблять и анализировать тонну информации», — объяснил он VentureBeat. «В результате они могут просто двигаться быстрее во время исследований или усердия».

Кроме того, Metal позволяет пользователям хранить и сегментировать информацию о компаниях, которые они исследуют в различных вертикалях — например, технологии, розничной торговле, аэрокосмической промышленности и защите, CPG и т. Д. — и отвечают на вопросы о том, как поступает весь сектор, или одну отдельную компанию или линейку продуктов относительно других в космосе.

«Поэтому, если я менеджер фонда, и я хочу знать, как дела в нашем техническом портфеле… если все эти данные принимаются в одном месте, металл, мы можем начать, чтобы позволить эти действительно интересные запросы, которые LLMS также может поддерживать», — отметил Лоу.

Он дал следующий пример того, как финансовый аналитик или менеджер фонда может использовать металл:

«Является ли он формой 10-K в метал и задает ей кучу вопросов-« Эй, расскажи мне о том, как продажи XYZ пошли по сравнению с предыдущими 10K, или извлекает ли это конкретные цитаты из стенограммы вызова, чтобы предоставить анекдоты клиента: «Эй, не бери его для меня. Это то, что говорилось руководство». Целостная картина — это действительно тот результат, который преследуют эти команды ».

Уже молодой стартап может похвастаться тем, что он помогал средствам и аналитикам экономить время и понимание эффективности, перспективы перспектив и роста компании на будущее — или его отсутствие.

«За прошедший год мы стали свидетелями этого воздействия из первых рук. Металл ускорил усердие рабочих процесса на порядок», — написал Лоу на веб -сайте Metal в начале этого месяца. «Каждый экспертный транскрипт вызова, подача в SEC или финансовая отчетность, обработанная металлом, сэкономила бесчисленные часы усилий для средств. И в сегодняшней среде гиперконкурентных сделок это может быть несправедливым преимуществом».

Металлические процессы и анализы обширных наборов данных — от финансовой отчетности до примечаний на заседание совета — ускорение исследований и процессов должной осмотрительности. Эта возможность не только о скорости; Речь идет о создании доверия и соответствия в секторе, где эти качества имеют первостепенное значение.

Разблокируя новые рабочие процессы

Будущее металла выглядит многообещающе. Это не только улучшает существующие процессы, но и собирается разблокировать совершенно новые рабочие процессы в финансовых услугах.

Сегодня Metal разворачивает свои услуги на основе фонда, предлагая индивидуальный подход для каждого клиента. Эта стратегия обеспечивает выделенные ресурсы и успех для каждого партнерства.

С акцентом на реальные решения и приверженность доверию и соответствию, Metal хочет преобразовать, как работают финансовые услуги, по одному фонду за раз.

Почти каждый может отравить набор данных машинного обучения (ML), чтобы изменить его поведение и вывод существенно и навсегда. Благодаря тщательным, упреждающим усилиям по обнаружению, организации могли бы сохранить недели, месяцы или даже годы работы, которые они в противном случае использовали бы, чтобы отменить причинный ущерб, вызванный отравленными источниками данных.

Что такое отравление данных и почему это имеет значение?

Развращение данных — это тип состязательной атаки ML, который злонамеренно смущает наборами данных, чтобы ввести в заблуждение или путать модель. Цель состоит в том, чтобы заставить его реагировать неточно или вести себя непреднамеренно. Реально эта угроза может нанести вред будущему ИИ.

По мере расширения изучения ИИ, отравление данных становится все более распространенным. Модель галлюцинации, неуместные ответы и неправильные классификации, вызванные преднамеренными манипуляциями, увеличились по частоте. Общественное доверие уже унижает — только 34% людей твердо верят, что они могут доверять технологическим компаниям с управлением ИИ.

Примеры отравления набором данных машинного обучения

В то время как существует несколько типов отравлений, они разделяют цель влияния на выход модели ML. Как правило, каждый включает в себя предоставление неточной или вводящей в заблуждение информации для изменения поведения. Например, кто-то мог вставить изображение знака ограничения скорости в набор данных стоп-знаков, чтобы обмануть автомобиль с самостоятельным вождением в неправильную классификацию дорожных вывесок.

Даже если злоумышленник не может получить доступ к учебным данным, он все равно может мешать модели, используя ее способность адаптировать его поведение. Они могли бы ввести тысячи целевых сообщений одновременно, чтобы исказить процесс классификации. Google пережил это несколько лет назад, когда злоумышленники одновременно запустили миллионы электронных писем, чтобы запутать свой фильтр электронной почты в неправильной категоризации спам -почты в качестве законной переписки.

В другом случае реального мира пользовательский ввод навсегда изменил алгоритм ML. Microsoft запустила свой новый чат -бот «Tay» в Twitter в 2016 году, пытаясь имитировать разговорной стиль девочки -подростки. После всего лишь 16 часов он опубликовал более 95 000 твитов — большинство из которых были ненавистными, дискриминационными или оскорбительными. Enterprise быстро обнаружил, что люди не поддаются массовому вводу, чтобы изменить выход модели.

Общие методы отравления наборами данных

Методы отравления могут подпадать в три общие категории. Первый — это подделка набора данных, где кто -то злонамеренно изменяет учебный материал, чтобы повлиять на производительность модели. Инъекционная атака — когда злоумышленник вставляет неточные, оскорбительные или вводящие в заблуждение данные — является типичным примером.

Переключение ярлыков является еще одним примером вмешательства. В этой атаке злоумышленник просто переключает учебный материал, чтобы запутать модель. Цель состоит в том, чтобы заставить его ошибочно классифицировать или грубо просматривать, в конечном итоге значительно изменяя ее производительность.

Вторая категория включает в себя манипулирование моделями во время и после обучения, где злоумышленники вносят постепенные модификации, чтобы влиять на алгоритм. Бэкдор атака является примером этого. В этом случае кто -то отравляет небольшой подмножество набора данных — после выпуска он представляет конкретный триггер, чтобы вызвать непреднамеренное поведение.

Третья категория включает манипулирование моделью после развертывания. Одним из примеров является отравление разделенным обзором, где кто-то берет под контроль источник, а алгоритм индексирует и заполняет его неточной информацией. Как только модель ML использует недавно модифицированный ресурс, она примет отравленные данные.

Важность усилий по упреждающему обнаружению

Что касается отравления данных, то преодоление является жизненно важным для проецирования целостности модели ML. Непреднамеренное поведение от чат-бота может быть оскорбительным или уничижительным, но отравленные ML-приложения, связанные с кибербезопасностью, имеют гораздо более серьезные последствия.

Если кто -то получит доступ к набору данных ML, чтобы отравить его, он может серьезно ослабить безопасность — например, вызывая неправильные классификации во время обнаружения угроз или фильтрации спама. Поскольку подделка обычно происходит постепенно, никто, скорее всего, не обнаружит присутствия злоумышленника в среднем в течение 280 дней. Чтобы они не остались незамеченными, фирмы должны быть активными.

К сожалению, вредоносное вмешательство невероятно просто. В 2022 году исследовательская группа обнаружила, что может отравить 0,01% крупнейших наборов данных-COO-700 м или LAION-400M-всего за 60 долларов.

Хотя такой небольшой процент может показаться незначительным, небольшое количество может иметь серьезные последствия. Просто 3% отравление набором данных может увеличить частоту ошибок обнаружения спама ML с 3% до 24%. Учитывая, что, по -видимому, незначительные фальсификации могут быть катастрофическими, упреждающие усилия по обнаружению имеют важное значение.

Способы обнаружения отравленного набора данных машинного обучения

Хорошей новостью является то, что организации могут принять несколько мер для обеспечения данных обучения, проверки целостности наборов данных и мониторинга аномалий, чтобы минимизировать шансы отравления.

1: Данные дезинфекции

Дезинфицирование — это «очистка» учебного материала, прежде чем он достигнет алгоритма. Он включает в себя фильтрацию и проверку наборов данных, где кто -то фильтрует аномалии и выбросы. Если они обнаруживают подозрительные, неточные или недостоверные данные, они удаляют их.

2: модели модели

После развертывания компания может контролировать свою модель ML в режиме реального времени, чтобы убедиться, что она не демонстрирует непреднамеренное поведение. Если они замечают подозрительные ответы или резкое увеличение неточностей, они могут искать источник отравления.

Обнаружение аномалий играет здесь важную роль, поскольку оно помогает определить случаи отравления. Одним из способов, которым фирма может реализовать этот метод, является создание алгоритма ссылки и аудита вместе с их публичной моделью для сравнения.

3: Source Security

Защита наборов данных ML имеет решающее значение, чем когда -либо, поэтому предприятия должны извлечь только надежные источники. Кроме того, они должны проверить подлинность и целостность перед обучением своей модели. Этот метод обнаружения также применяется к обновлениям, потому что злоумышленники могут легко отравлять ранее индексированные сайты.

4: обновления

Обычно дезинфицируя и обновляя набор набора данных ML, смягчает отравление разделенным видом и атаки за бэкдором. Обеспечение того, чтобы информация, на которой модель поезда была точной, подходящей и неповрежденной, является постоянным процессом.

5: проверка ввода пользователя

Организации должны фильтровать и проверять все входные данные, чтобы пользователи не могли изменить поведение модели с целевыми, широко распространенными, злонамеренными вкладами. Этот метод обнаружения уменьшает повреждение инъекций, отравления разделителем и атаками задних ходов.

Организации могут предотвратить отравление наборами данных

Хотя отравление наборами данных ML может быть трудно обнаружить, упреждающие, скоординированные усилия могут значительно снизить шансы, которые манипуляции будут влиять на производительность модели. Таким образом, предприятия могут улучшить свою безопасность и защитить целостность своего алгоритма.

Zac Amos является редактором функций в Rehack, где он охватывает кибербезопасность, ИИ и автоматизацию.

Улучшит ли ИИ наше понимание истории человечества, или это будет инструмент, который положит конец нашей истории? Прямо сейчас есть доказательства, подтверждающие обе точки зрения.

ИИ разблокирует прошлое

На этой неделе основной приз был присужден трем студентам по компьютерным наукам, которые использовали ИИ, в частности, машинное обучение (ML) и нейронные сети, чтобы успешно читать и перевести древний римский свиток, обнаруженного у Геркуланума, недалеко от Помпей.

Документ является частью коллекции, известной как свитки Herculaneum, которая была обнаружена из того, что, как считается, была большой библиотекой на вилле, принадлежащей свекрам Юлиуса Цезаря. Между 1752 и 1754 годами около 1800 фрагментов древних папирусных свитков, представляющих, возможно, 1000 оригинальных томов были раскопаны из виллы. Свитки были серьезно повреждены во время извержения горы Везувия в 79 году нашей эры и были описаны как выглядящие как оставшиеся бревна в костру.

Как отмечает Общество Геркуланеума, эти почерневшие, карбонизированные, невероятно хрупкие свитки представляют собой самую большую выжившую библиотеку из классической древности, потенциально удерживая потерянные философские диалоги и понимание, которые могли бы изменить наше понимание древнего мира. Попытки прочитать эти документы были неудачными до сих пор, так как свитки распадались бы, если его обрабатывают.

Чтение папируса было достигнуто тремя участниками в Vesuvius Challenge, соревнованиях, запущенном в марте 2023 года, в котором люди во всем мире мчались, чтобы читать древний геркуланум папирус. Победители смогли разоблачить это практически и прочитать более 2000 греческих букв. Как сообщается ЭкономистСчитается, что текст является ранее неизвестной работой о удовольствии от Филодемия, эпикурейского философа, который жил в Геркулануме. Теперь вполне вероятно, что другие свитки можно прочитать аналогичным образом.

Роберт Фаулер, известный классицист и председатель Общества Геркуланеума, рассказал Блумберг: «Некоторые из этих текстов могут полностью переписать историю ключевых периодов древнего мира. Это общество, из которого происходит современный западный мир».

Это открытие является одним из примеров того, как ИИ разблокирует прошлое, добавляя глубину знаний и углубляя наше понимание мира. В дополнение к этим свиткам, методы глубокого обучения применяются в археологии.

Эти приложения помогают классифицировать фрагменты керамики и определять местонахождение кораблекрушений на изображениях сонар, что «открывает новые окна в прошлое», согласно New York TimesПолем Другой проект с использованием ИИ и Робототехники направлен на восстановление произведений искусства в Помпее. Первые цели проекта «Ремонт»-аббревиатура для реконструкции прошлого: искусственный интеллект и робототехника встречаются с культурным наследием,-это пара из 2000-летних фресков.

ИИ: угроза истории?

Эти варианты использования показывают, что потенциальное использование ИИ в исторических исследованиях обширно и разнообразно. Тем не менее, есть и другие, которые считают ИИ потенциально приводящим к фундаментальным изменениям в истории человечества и культуры, возможно, не к лучшему. Это доказывает, что двойная природа ИИ, действительно любая передовая технология, имеет как положительные, так и отрицательные последствия.

Как сообщается Удача«Sapiens» автор и историк Юваль Ноа Харари сказал аудитории прошлой осенью: «Вполне вероятно, что в ближайшие несколько лет (ИИ) съесть всю человеческую культуру (все, что мы достигли) с каменного века и начнут извергать новую культуру, исходящую из инопланетного интеллекта». Харари предупредил: «Потенциально мы говорим о конце истории человечества — в конце периода, где доминируют люди».

Это говорит о том, что модели ИИ могут получить способность реконструировать историю в соответствии с их собственным анализом, потенциально переопределяя существующий консенсус при интерпретации уроков прошлого. Если это правда, ИИ может стать доминирующей силой в формировании мира, и людям придется адаптироваться к его влиянию, изменяя взгляды человека на прошлое и изменяя культурную идентичность.

Потребность в цифровой целостности

Одна идея предотвратить загрязнение исторической записи состоит в том, чтобы лучше сохранить то, что в настоящее время существует, чтобы служить ориентиром. Как показывают примеры свитков геркуланеума, среда хранения имеет решающее значение для успеха сохранения. Этого недостаточно, чтобы хранить контент в цифровом виде, так как это тоже может ухудшиться.

Одна возможность поступает от Microsoft в форме проектного кремнезема. Используя стекло в качестве средних и лазерных вариантов для написания и чтения данных, результатом является среда для хранения, которая потенциально может длиться тысячи лет без ухудшения. Это может быть превосходной архивной системой, чтобы запечатлеть историческую запись до аий.

Помимо потенциальной угрозы со стороны инопланетного интеллекта, которая выходит из человеческого разума. Недавняя статья New York Times предупреждает, что: «История может быть мощным инструментом для манипуляций и злоупотреблений. Тот же самый генеративный ИИ, который может подделить текущие события, также может притворяться прошлым».

Это еще один способ сказать, что все труднее отличить то, что реально от того, что является фальшивым, и это может применяться одинаково к исторической записи. Авторы отмечают, что «ложные документы являются ключевой частью многих усилий по переписыванию исторической записи».

Например, зрители на YouTube могут посмотреть, как Ричард Никсон выступил с речью, написанной на случай, если посадка на луну 1969 года закончилась катастрофой. К счастью, его никогда не нужно было доставлено. Тем не менее, исследователи из MIT создали эту глубокую черту, чтобы показать, как ИИ может манипулировать нашим общим чувством истории.

Франческа панетта из MIT сказала о Deepfake: «Эта альтернативная история показывает, как новые технологии могут запутать правду вокруг нас, побуждая нашу аудиторию тщательно думать о средствах массовой информации, с которыми они встречаются ежедневно».

Потенциал для DeepFakes разрушить доверие к нашей нынешней реальности, а также в корне искажает историческую запись, только усиливает необходимость в строгих стандартах и ​​правилах для создания и распространения контента с поддержкой A.

Если у нас есть возможность сформировать путь ИИ и его влияние на историю, мы должны сделать это в ближайшее время, потому что текущие условия будут устанавливать долгосрочную тенденцию. Поскольку мы все еще находимся в начале этой новой эпохи, крайне важно, чтобы мы отвечали на эти достижения ответственно, гарантируя, что ИИ служит инструментом для просветления, а не путаницы или обмана.

Вместо ИИ отмечают конечную точку для истории человечества, мы все равно можем сделать его трамплина для просветления.

Гэри Гроссман — EVP технологической практики в Edelman и глобальном лидере Центра передового опыта Эдельмана.

В прошлом году мы сообщили, что бывший генеральный директор Angi и главный сотрудник по продукту Oisin Hanrahan собрал 18 миллионов долларов, чтобы основать новую компанию CayChain, посвященную созданию веб-платформы с AI, которая может лучше подключить потребительских товаров (CPG) в США,-а также, и в том же духе, которые на самом деле производят розничные продукты, которые на самом деле производят и на самом деле являются ими.

Теперь, чуть более двух месяцев спустя, брелок из Нью-Йорка впервые дебютировал на своей веб-платформе для мира. И это массово амбициозное мероприятие даже в ее 1,0 итерации, охватывающее более 24 000 производителей CPG и более 760 000 различных продуктов, с целью трансформации сектора.

Клавичный матч — воздушное производство продуктов питания?

Благодаря KeyChain розничные продавцы могут войти в чистый, упорядоченный веб-интерфейс, просматривать различных производителей, читать описание о них и идентифицировать их местоположение, сортировать их на основе возможностей, которые они предоставляют (без орехов, органические, чипы, крекеры и т. Д.), Следите за затратами, связанными с ними, и подключаются к ним непосредственно на платформе, даже сразившись на производство, внедряя новый уровень ясности и удобства.

Розничные продавцы также могут выбрать продукцию, производимые через эксклюзивных партнеров KeyChain (которые платят за удобство участия, в рамках модели получения доходов KeyChain) или получают оптовые избыточные производственные мощности от компаний, не рекламирующих свои услуги на открытом рынке (который раскрывается только покупателю продавца).

KeyChain использует новейший в генеративном ИИ на бэкэнд, чтобы организовать и обеспечить точные поиски в этом огромном объеме данных, предназначенные для замены до сих пор в основном аналоговой системе, с помощью которой розничные продавцы CPG обнаружили производителей — вызывая, посещая выставки, пролив индивидуальные каталоги и PDF и PDF, а также отслеживая все в своих собственных переводах и системах.

Вместо всего этого, KeyChain позволяет ритейлерам CPG просто входить в веб -сайт один раз, и, если они являются большим брендом, там уже будет аккаунт, ожидая, что они настройку со многими продуктами, которые они уже предлагают, и предложения для тех, кто может их изготовить.

По словам Ханрахана в интервью с видеозвонками с VentureBeat, эта система позволяет пользователям ключей — оба розничных продавца ищут производителей, чтобы производить свои товары, так и производители ищут клиентов — легче найти друг друга и следить за общим рынком.

«Если вы бренд или розничный продавец, вы знаете, кто может сделать это, а вы производитель, вы знаете, какие продукты вы должны производить», — сказал Ханрахан VentureBeat.

В некотором смысле, он похож на Airbnb, предоставляя программное обеспечение, которое связывает заинтересованных клиентов с теми, которые предоставляют необходимую возможность — за исключением того, что путешественники ищут проживание, оно обслуживает розничные бренды CPG (например, трейдер Джо, как гипотетические примеры) и производителей, которые могут их обслуживать.

Это также похоже на предыдущий совместный состав Hanrahan, Angi, ранее список Анги, который сочетает домовладельцев и арендаторов с работниками, которые могут помочь им завершить домашние проекты, ремонт и техническое обслуживание.

Производительность более 120 миллионов долларов, оцифрованное и организованное ИИ

Развертывание ключей уже содержит 120 миллионов долларов на производственную мощность в более чем 40 категориях продуктов.

Этот огромный множество данных, собранных по цене и дискуссиям команды и дискуссии команды CPG о множестве различных и уникальных этапов их процессов, — все это анализируется и организовано AI на бэкэнд: три разных модели машинного обучения, чтобы быть специфическими.

«У нас есть модель компьютерного зрения, которая анализирует (продукт) изображения и превращает их в описание и находит вещи на изображениях с точки зрения упаковки», — сказал Ханрахан. «У нас есть языковая модель, которая оценивает ингредиенты, описания и имена, а затем у нас есть другая языковая модель, которая оценивает возможности производителя и в основном выполняет совпадение или нечеткое совпадение между тем, что могут делать производители, и процессами, которые (входят в товары), поэтому у нас есть три, прежде всего, три разных модели, выполняющие работу».

На вопрос, были ли модели основаны на существующих готовых моделях из таких, как OpenAI, антропический или другие ведущие компании, или с открытым исходным кодом, такие как Meta’s Llama 2 или миктральная миктральная, Ханрахан, отказался от того, что он использовал Emerging Emerging Emerging Emerging Emergring, которая была выдвинута на обороте, которая была выдвинута на передовой имени. Мэтт Маршалл ранее писал здесь.

Ключевые одобрения отрасли

KeyChain уже выиграл одобрения от Пола Фоге, соучредителя и генерального директора Aura Bora, и Келли МакГолдрик, директора по клиенту Wyandot Snacks, который поблагодарил платформу за предоставление информации о производственном процессе и мощности-новинка в отрасли.

KeyChain планирует сделать свою основную платформу доступной для выбора розничных продавцов и брендов в 2024 году, в настоящее время ограничивая доступ к приглашенным партнерам.

Благодаря возможности ИИ и обширной сети производителей, KeyChain стремится упростить процесс создания и управления производственными партнерскими отношениями, позволяя брендам более быстро и эффективнее выставлять продукты на рынок.

Сегодняшние возможности искусственного интеллекта опираются на огромные объемы данных, и в результате специалисты по обработке данных переосмысливают свою роль на предприятии.

Согласно опросу Salesforce, проведенному в ноябре 2023 года, революция искусственного интеллекта, в которую мы вовлечены сегодня, развивается с такой головокружительной скоростью, что 77% бизнес-лидеров уже обеспокоены тем, что упускают преимущества.

Но, учитывая практически безграничные возможности применения ИИ, на чем следует сосредоточиться в первую очередь организации? О самом ценном ресурсе, которым обладает предприятие — его данных — и позициях, наиболее тесно связанных с их поддержанием, манипулированием и потреблением. В конце концов, сегодняшние знаменитые модели генеративного ИИ дают результаты настолько хорошие, насколько хороши огромные объемы данных, на которых они обучаются. Крайне важны умелые распорядители этого массива данных.

ИИ заменит лишь немногие роли, связанные с данными. Вместо этого программное обеспечение на базе искусственного интеллекта расширит их возможности и побудит амбициозных специалистов по обработке данных сразу же приобрести любые новые навыки, связанные с искусственным интеллектом, которые могут потребоваться. Вот краткое описание влияния ИИ на роли данных в организации.

Директора по данным (CDO)

По данным Harvard Business Review, должность CDO — одна из самых сложных должностей для руководителей высшего звена в сфере ИТ. По данным Harvard Business Review, CDO сохраняют свои должности в среднем всего два с половиной года. Искусственный интеллект потенциально меняет правила игры CDO, поскольку он предлагает новые возможности для повышения ценности предприятия.

До недавнего времени офис CDO считался центром затрат, обеспечивающим управление данными, их целостность и безопасность. ИИ повышает авторитет CDO во многих отношениях. Во-первых, он добавляет множество средств автоматизации для улучшения качества данных, производительности баз данных и анализа данных, что дает лучшие результаты по всем направлениям. Во-вторых, приложения искусственного интеллекта, от чат-ботов до оптимизаторов ценообразования и прогнозной аналитики, зависят от гигантских хранилищ качественных данных — и многие из этих приложений уже приносят новый доход.

Но ИИ также добавляет важное новое обязательство для CDO: они должны гарантировать, что данные обучения ИИ не приведут к предвзятым результатам. Классический пример – непреднамеренная ассоциация риска с миноритарными заемщиками, кандидатами на работу, деловыми партнерами и так далее. Ответственность за предотвращение предвзятости ИИ также лежит на разработчиках приложений ИИ, поэтому совместное тестирование должно продолжаться постоянно.

Архитекторы данных

Архитекторы данных воплощают в жизнь концепцию, политику и инициативы директора по цифровым технологиям посредством эффективного планирования и проектирования. Все начинается с моделирования данных: сбора и анализа требований к данным и разработки логических и физических моделей для их удовлетворения. Моделирование данных с помощью искусственного интеллекта находится на ранней стадии, но по мере развития технологии оно поможет архитекторам создавать более сложные и точные модели.

Архитекторы данных могут использовать инструменты с поддержкой искусственного интеллекта для выявления тенденций в использовании данных с целью установления оптимального местоположения данных, производительности хранилища и безопасности данных для обслуживания приложений в рамках организации. Такой анализ может распространяться на прогнозное планирование мощности, чтобы архитекторы могли определить, какие данные хранить на каких платформах сейчас и в будущем, локально или в облаке.

Дата-инженеры и специалисты по интеграции

Инженеры по обработке данных обычно управляют данными на уровне системы, а не на уровне организации, уделяя особое внимание инфраструктуре, тогда как специалисты по интеграции данных решают извечную проблему смешивания и согласования данных из нескольких репозиториев для любого количества бизнес-приложений. Эти две пересекающиеся роли уже получают выгоду от ИИ.

Ключевой проблемой в этой области является управление метаданными, то есть организация всей важной информации, описывающей данные, полезные для предприятия, независимо от их происхождения и платформы. Уже существуют инструменты искусственного интеллекта, которые могут помочь выявить и упорядочить схему метаданных для сопоставления и интеграции данных. Некоторые также автоматизируют создание конвейеров данных, которые образуют структуру интеграции данных. Новые предложения искусственного интеллекта могут постоянно отслеживать качество данных по мере их прохождения по конвейерам, отмечая несоответствия в режиме реального времени.

Администраторы баз данных (DBA)

Управление корпоративной базой данных — это многогранная работа: от настройки производительности до интенсивных запросов SQL и обеспечения доступности и безопасности. Администраторам баз данных обычно необходимо сбалансировать требования различных групп пользователей, сводя к минимуму сбои в работе по мере масштабирования хранилищ данных и появления новых версий программного обеспечения баз данных. И здесь ИИ может сократить время, затрачиваемое на выполнение рутинных задач, позволяя администраторам баз данных тратить больше времени на сбор и удовлетворение потребностей заинтересованных сторон.

Но большая победа – в оптимизации. Использование инструментов на базе искусственного интеллекта для анализа характеристик производительности позволяет администраторам баз данных выявлять узкие места и предвидеть предстоящие ограничения инфраструктуры — или фактически увеличивать мощность без вмешательства человека. Инструменты искусственного интеллекта, которые соединяют саму базу данных, могут предлагать настройки индексации и рекомендовать изменения в запросах, которые быстрее обеспечивают лучшие результаты.

Специалисты по данным

ИИ, возможно, приносит наибольшую пользу специалистам по обработке данных, работа, которая требует продвинутых навыков в программировании, машинном обучении (ML), математике и инструментах анализа данных. Например, автоматизированное машинное обучение (AutoML) значительно упрощает задачу разработки модели, включая выбор подходящего алгоритма машинного обучения для работы. Кроме того, как и в любом программировании, ученые, работающие с данными, пишущие код Python или R, могут получить выгоду от повышения производительности, предлагаемого помощниками по программированию с использованием искусственного интеллекта.

Ученые, работающие с данными, обладают широким кругозором: они используют огромные объемы данных для выявления долгосрочных корпоративных тенденций, рисков и возможностей — процесс, обогащенный новым поколением аналитического программного обеспечения на базе искусственного интеллекта. Но у этой работы есть маленький грязный секрет: ученые, работающие с данными, тратят большую часть своего времени на поиск, очистку и предварительную обработку данных. Каталогизация данных на основе искусственного интеллекта ускоряет поиск источников, а инструменты искусственного интеллекта появляются, чтобы помочь обеспечить шесть элементов качества данных: точность, полнота, последовательность, уникальность, своевременность и достоверность. Эта основа повышает ценность анализа данных в масштабах всего предприятия.

Аналитики данных

Как и специалисты по данным, аналитики данных извлекают выгоду из новых возможностей искусственного интеллекта, встроенных в новейшие аналитические инструменты, хотя аналитики данных обычно сосредотачиваются на поддержке принятия решений в конкретной области, а не на понимании общей картины. В течение многих лет искусственный интеллект использовался в прогнозной аналитике, но новые итеративные возможности машинного обучения улучшают распознавание закономерностей (и аномалий), позволяя получать гораздо более точные прогнозы. ИИ также может обеспечить наилучшую визуализацию поставленной задачи и даже автоматически создавать информационные панели.

Вся эта автоматизация приводит к расширению доступа к аналитике данных. Интерфейсы на естественном языке позволяют тем, у кого нет навыков языка запросов, выполнять собственный анализ, а рекомендации, предлагаемые ИИ, помогают предотвратить ошибки новичков. ИИ навсегда меняет аналитику с поразительной скоростью, значительно расширяя возможности и снабжая более широкий круг бизнес-аналитиков более мощными инструментами самообслуживания.

Разработчики программного обеспечения

Строго говоря, разработчики программного обеспечения не являются профессионалами в области данных, но очевидно, что они имеют дело с огромными объемами данных в виде миллионов строк кода. В то же время многие разработчики интегрируют возможности машинного обучения в приложения, обрабатывающие все виды корпоративных данных. В обоих случаях помощники по программированию на базе искусственного интеллекта оказывают двузначное влияние на производительность разработчиков.

Помощники по программированию выходят далеко за рамки простого заполнения повторяющихся строк кода. Используя запросы на естественном языке к обширным репозиториям с открытым исходным кодом, а также собственную базу кода собственной компании, разработчикам больше не нужно героически выслеживать неясные детали синтаксиса. Помощники по кодированию могут обслуживать их правильно и в соответствии с правилами кодирования, установленными организацией-разработчиком. В некоторых случаях помощники по программированию также рекомендуют подходящие алгоритмы машинного обучения для конкретных задач приложения.

Завоевание предприятия ИИ

Можно с уверенностью сказать, что ни одна новая технология не оказала более широкого влияния, чем искусственный интеллект. Хотя наибольшее влияние оказывают специалисты по обработке данных и разработчики, профессионалы в области маркетинга, разработки продуктов, сервисных операций, анализа рисков и т. д. активно используют ИИ. Улучшения качества данных и их анализа уже ощущаются по всему предприятию. Возможно, самый удивительный факт заключается в том, что мы только начинаем.

Йозеф де Врис — директор по разработке продуктов EnterpriseDB.

Недавняя сага Сэма Альтмана о занятости и предположения о новаторской модели Q* OpenAI возобновили общественный интерес к возможностям и рискам общего искусственного интеллекта (AGI).

AGI мог бы учиться и выполнять интеллектуальные задачи так же, как люди. Стремительные достижения в области ИИ, особенно в области глубокого обучения, вызвали оптимизм и опасения по поводу появления ОИИ. Несколько компаний, в том числе OpenAI и xAI Илона Маска, стремятся развивать AGI. Возникает вопрос: ведут ли нынешние разработки ИИ к AGI?

Возможно нет.

Ограничения глубокого обучения

Глубокое обучение, метод машинного обучения (ML), основанный на искусственных нейронных сетях, используется в ChatGPT и большей части современного искусственного интеллекта. Он приобрел популярность благодаря своей способности обрабатывать различные типы данных и уменьшению необходимости предварительной обработки, а также другим преимуществам. Многие считают, что глубокое обучение будет продолжать развиваться и играть решающую роль в достижении ОИИ.

Однако глубокое обучение имеет ограничения. Для создания моделей, отражающих данные обучения, требуются большие наборы данных и дорогостоящие вычислительные ресурсы. Эти модели выводят статистические правила, отражающие явления реального мира. Эти правила затем применяются к текущим реальным данным для генерации ответов.

Таким образом, методы глубокого обучения следуют логике, ориентированной на прогнозирование; они заново выводят обновленные правила, когда наблюдаются новые явления. Чувствительность этих правил к неопределенности мира природы делает их менее подходящими для реализации ОИИ. Крушение круизного роботакси в июне 2022 года можно объяснить тем, что транспортное средство попало в новую ситуацию, к которой у него не было подготовки, что сделало его неспособным принимать решения с уверенностью.

Загадка «что, если»

Люди, модели AGI, не создают исчерпывающих правил для реальных событий. Люди обычно взаимодействуют с миром, воспринимая его в режиме реального времени, полагаясь на существующие представления, чтобы понять ситуацию, контекст и любые другие случайные факторы, которые могут повлиять на решения. Вместо того, чтобы создавать правила для каждого нового явления, мы переназначаем существующие правила и модифицируем их по мере необходимости для эффективного принятия решений.

Например, если вы идете по лесной тропе и встречаете на земле цилиндрический объект и хотите принять решение о своем следующем шаге с помощью глубокого обучения, вам необходимо собрать информацию о различных характеристиках цилиндрического объекта и классифицировать его как потенциальный угроза (змея) или неопасность (веревка) и действие на основе этой классификации.

И наоборот, человек, скорее всего, начнет оценивать объект на расстоянии, постоянно обновлять информацию и выбирать устойчивое решение, основанное на «распределении» действий, которые оказались эффективными в предыдущих аналогичных ситуациях. Этот подход фокусируется на характеристике альтернативных действий в отношении желаемых результатов, а не на предсказании будущего — тонкое, но отличительное отличие.

Достижение AGI может потребовать отхода от прогнозных выводов к усилению индуктивного «а что, если…?» потенциал, когда прогноз невозможен.

Принятие решений в условиях глубокой неопределенности – путь вперед?

Методы принятия решений в условиях глубокой неопределенности (DMDU), такие как надежное принятие решений, могут обеспечить концептуальную основу для реализации рассуждений AGI о выборе. Методы DMDU анализируют уязвимость потенциальных альтернативных решений в различных будущих сценариях, не требуя постоянного переобучения на новых данных. Они оценивают решения, выявляя критические факторы, общие для тех действий, которые не соответствуют заранее определенным критериям результата.

Цель состоит в том, чтобы определить решения, которые демонстрируют надежность — способность хорошо работать в различных вариантах будущего. В то время как многие подходы к глубокому обучению отдают приоритет оптимизированным решениям, которые могут потерпеть неудачу при столкновении с непредвиденными проблемами (например, оптимизированные системы поставок «точно в срок» перед лицом COVID-19), методы DMDU отдают предпочтение надежным альтернативам, которые могут обменять оптимальность на способность добиться приемлемых результатов во многих средах. Методы DMDU предлагают ценную концептуальную основу для разработки ИИ, способного справляться с неопределенностями реального мира.

Разработка полностью автономного транспортного средства (АВ) могла бы продемонстрировать применение предлагаемой методологии. Задача заключается в том, чтобы ориентироваться в разнообразных и непредсказуемых условиях реального мира, имитируя таким образом человеческие навыки принятия решений во время вождения. Несмотря на значительные инвестиции автомобильных компаний в использование глубокого обучения для полной автономии, эти модели часто испытывают трудности в неопределенных ситуациях. Из-за непрактичности моделирования всех возможных сценариев и учета сбоев решение непредвиденных проблем в разработке AV продолжается.

Надежное решение

Одно из потенциальных решений предполагает принятие надежного подхода к принятию решений. AV-датчики будут собирать данные в режиме реального времени для оценки целесообразности различных решений — таких как ускорение, смена полосы движения, торможение — в рамках конкретного сценария дорожного движения.

Если критические факторы вызывают сомнения в алгоритмическом механическом реагировании, система оценивает уязвимость альтернативных решений в данном контексте. Это уменьшит насущную потребность в переобучении на массивных наборах данных и будет способствовать адаптации к реальным неопределенностям. Такой сдвиг парадигмы может повысить производительность AV, перенаправив фокус с достижения идеальных прогнозов на оценку ограниченных решений, которые AV должен принять для работы.

Контекст принятия решений будет способствовать развитию AGI

По мере развития ИИ нам, возможно, придется отойти от парадигмы глубокого обучения и подчеркнуть важность контекста принятия решений для продвижения к AGI. Глубокое обучение оказалось успешным во многих приложениях, но имеет недостатки при реализации AGI.

Методы DMDU могут обеспечить начальную основу для поворота современной парадигмы ИИ к надежным, управляемым решениями методам ИИ, которые могут справляться с неопределенностями в реальном мире.

Сваптик Чоудхури — доктор философии. студент аспирантуры Парди РЭНД и помощник исследователя политики в некоммерческой, беспартийной корпорации РЭНД.

Стивен Поппер — старший экономист RAND Corporation и профессор наук о принятии решений в Технологическом университете Монтеррея.