Новости искусственного интеллекта и технологий
  • Новости
  • Обзор сервисов
  • ИИ в искусстве
  • ИИ в бизнесе
  • ИИ в науке
  • ИИ в жизни
Автор

admin

admin

ИИ в бизнесеИИ в искусствеИИ в науке

Как LLMS попала в современный стек данных в 2023 году

admin 14.06.2025
admin

Присоединяйтесь к событию, которым доверяют лидеры предприятия в течение почти двух десятилетий. VB Transform объединяет людей, строящих реальную стратегию ИИ предприятия. Узнать больше


Когда более года назад CHATGPT дебютировал, пользователи интернета получали постоянно доступный помощник по ИИ, чтобы поболтать и работать. Он занимался их повседневными задачами, от производства содержания естественного языка (например, эссе) до рассмотрения и анализа сложной информации. В кратчайшие сроки, метеорический рост чат -бота привлек внимание мира к технологии, сидящей в своей основе: серии больших языковых моделей GPT (LLMS).

Перенесемся в настоящее время, LLMS-серия GPT и другие-являются движущей силой не только индивидуальных задач, но и массовых бизнес-операций. Предприятия используют коммерческие модели API и предложения с открытым исходным кодом для автоматизации повторяющихся задач и эффективности стимулирования для ключевых функций. Представьте себе, что вы разговариваете с ИИ, чтобы создать рекламные кампании для маркетинговых команд или возможность ускорить операции поддержки клиентов, всплыв правильную базу данных в нужное время.

Воздействие было глубоким. Тем не менее, одна область, где роль LLM не обсуждается так много, является современным стеком данных.

LLMS преобразует стек данных

Данные являются ключом к высокопроизводительным крупным языковым моделям. Когда эти модели обучаются правильно, они могут помочь командам работать со своими данными — независимо от того, экспериментируют ли они с ним или запускают сложную аналитику.

Фактически, за последний год, когда росли CHATGPT и конкурирующие инструменты, предприятия, предоставляющие инструменты данных для предприятий, зацикливались на генеративном ИИ в своих рабочих процессах, чтобы облегчить их клиентам. Идея была проста: нажмите на способность языковых моделей, чтобы конечные клиенты не только получили лучший опыт при обработке данных, но также могли сэкономить время и ресурсы — что в конечном итоге поможет им сосредоточиться на других, более насущных задачах.

Первый (и, вероятно, самый важный) сдвиг с LLMS произошел, когда поставщики начали дебютировать с возможностями разговорного запроса — т.е. получает ответы от структурированных данных (подгоняя данные в строки и столбцы), разговаривая с ним. Это устранило хлопотные комплексные запросы SQL (структурированный язык запросов) и дали команды, в том числе нетехнические пользователи, простой в использовании опыт текста в SQL, где они могли бы поместить на естественные языковые подсказки и получить представление от своих данных. Используемый LLM преобразовал текст в SQL, а затем запустил запрос на целевом наборе данных для генерации ответов.

В то время как многие поставщики запустили эту возможность, некоторые заметные, чтобы сделать их в пространстве, были DataBricks, Snowflake, Dremio, Kinetica и мысли. Kinetica изначально постучала Chatgpt для этой задачи, но теперь использует свой собственный родной LLM. Тем временем Snowflake предлагает два инструмента. Во -первых, копило, который работает в качестве ассистента разговора для таких вещей, как задание вопросов о данных в простом тексте, написание запросов SQL, усовершенствование запросов и фильтрацию вниз. Второй — это инструмент AI документа для извлечения соответствующей информации из неструктурированных наборов данных, таких как изображения и PDF. DataBricks также работает в этом пространстве с тем, что он называет «Lakehouseiq».

Примечательно, что несколько стартапов также появились в одной и той же области, нацеленные на аналитическую область на основе AI. Например, в Калифорнии DATAGPT продает специализированного аналитика для компаний ИИ, который запускает тысячи запросов в кэше молнии своего хранилища данных и получает результаты в разговорном тоне.

Помогая с управлением данными и усилиями по ИИ

Помимо помощи группам генерировать понимание и ответы из их данных с помощью текстовых входов, LLM также традиционно обрабатывают ручное управление данными и усилия по данным, имеющие решающее значение для создания надежного продукта ИИ.

В мае поставщик интеллектуального управления данными (IDMC) Informatica дебютировал в Claire GPT, многопользовательском инструменте по разговору AI, который позволяет пользователям обнаруживать, взаимодействовать и управлять своими активами данных IDMC с входами естественного языка. Он обрабатывает несколько заданий в рамках платформы IDMC, включая обнаружение данных, создание и редактирование конвейеров данных, исследование метаданных, качество данных и исследование отношений и генерацию правил качества данных.

Затем, чтобы помочь командам создать предложения искусственного интеллекта, калифорнийский заправка AI предоставляет специально построенную большую языковую модель, которая помогает с заданиями маркировки данных и обогащения. В статье, опубликованной в октябре 2023 года, также показывается, что LLMS может выполнять хорошую работу по удалению шума из наборов данных, что также является важным шагом в создании надежного ИИ.

Другими областями в разработке данных, где LLMS может вступить в игру, являются интеграция данных и оркестровая. Модели могут по существу генерировать код, необходимый для обоих аспектов, независимо от того, нужно ли преобразовать различные типы данных в общий формат, подключаться к различным источникам данных или запрос для шаблонов кода YAML или Python для построения DAGS.

Гораздо больше

Прошло всего год с тех пор, как LLMS начали делать волны, и мы уже видим так много изменений в домене предприятия. По мере того, как эти модели улучшаются в 2024 году, и команды продолжают внедрять инновации, мы увидим больше приложений языковых моделей в различных областях стека корпоративных данных, включая постепенно развивающее пространство наблюдаемой наблюдения данных.

Монте -Карло, известный поставщик в этой категории, уже запустил исправление с помощью ИИ, инструмента, который обнаруживает проблемы в трубопроводе данных и предлагает код исправить их. Acceldata, еще один игрок в пространстве, также недавно приобрел Bewgle, чтобы сосредоточиться на интеграции LLM для наблюдения данных.

Однако, когда эти приложения появятся, для команд также станет более важным, чем когда-либо, чтобы убедиться, что эти языковые модели, созданные с нуля или настраиваемые, работают прямо на марке. Небольшая ошибка здесь или там, и вниз по течению может быть затронута результат, что приведет к сломанному каким -либо каким -либо каким -либо каким -либо каким -либо образом.



Источник
Новости

Почему ChatGPT пока не разумен, а будущие ИИ могут стать сознательными

admin 14.06.2025
admin


Последнее время все чаще слышны разговоры о том, что искусственный интеллект может обрести сознание. Но что для этого действительно нужно? В прошлом году инженер Google, Блейк Лемуан, заявил, что чат-бот компании LaMDA обрел способность осознавать окружающий мир.

Почему ChatGPT пока не разумен, а будущие ИИ могут стать сознательными

По словам Лемуана, программа обладала разговорными способностями семилетнего ребенка, и мы должны были предположить, что она обладает аналогичной осведомленностью о мире.

LaMDA, позже ставшая общедоступной под названием Bard, работает на основе «большой языковой модели» (LLM), подобной той, что лежит в основе бота ChatGPT компании OpenAI. Другие крупные технологические компании спешат внедрить аналогичную технологию.

Сотни миллионов людей уже получили возможность поиграть с LLM, но мало кто верит в то, что они обладают сознанием. Вместо этого, по поэтическому выражению лингвиста и специалиста по изучению данных Эмили Бендер, они представляют собой «стохастических попугаев», которые убедительно болтают, ничего не понимая. Но как быть со следующим поколением систем искусственного интеллекта (ИИ) и последующими?

Наша группа философов, нейробиологов и компьютерщиков, опираясь на современные научные теории работы человеческого сознания, составила список основных вычислительных свойств, которыми, вероятно, должна обладать гипотетически сознательная система. По нашему мнению, ни одна из современных систем не приближается к планке сознания, но в то же время нет никаких очевидных причин, по которым будущие системы не смогут стать по-настоящему сознательными.

Поиск индикаторов

С тех пор как в 1950 г. пионер вычислительной техники Алан Тьюринг предложил свою «Игру в имитацию», способность успешно выдавать себя за человека в разговоре часто принималась за надежный маркер сознания. Обычно это объясняется тем, что задача казалась настолько сложной, что для ее решения необходимо сознание.

Однако, как и в случае с победой шахматного компьютера Deep Blue над гроссмейстером Гари Каспаровым в 1997 году, разговорная беглость LLM может просто сдвинуть точку отсчета. Существует ли принципиальный способ подойти к вопросу о сознании ИИ, который не опирался бы на наши интуитивные представления о том, что является сложным или особенным в человеческом познании?

Именно на это направлена наша недавняя статья. Мы сравнили существующие научные теории о том, что делает человека сознательным, и составили список «индикаторных свойств», которые затем можно применить к системам ИИ.

Мы не считаем, что системы, обладающие индикаторными свойствами, обязательно обладают сознанием, но чем больше индикаторов, тем серьезнее мы должны относиться к заявлениям о сознании ИИ.



Источник

ИИ в жизни

Космические хакеры: мифы и реальность

admin 14.06.2025
admin


Фантасты, как известно, любят ронять на Землю астероиды или куски Луны. Но в фильме «Падение Луны» (Moonfall), который выходит на экраны в феврале, речь идет не о природной катастрофе, а о некой техногенной заразе. И среди технологий защиты, используемых в этом космическом триллере, внимательные зрители могут даже разглядеть слово Kaspersky.

Однако мы не будем устраивать спойлеров по фильму, а попробуем разобраться, в чем может состоять реальная космическая киберугроза. Фантасты-то давно разобрались: у них регулярно кто-нибудь умудряется перенаправить ракету в другую сторону, сидя за домашним ноутбуком, или взломать одной командой некий центр управления и вырубить целую армию дронов. Или в последний момент разблокировать кодовый замок в стыковочном шлюзе, крича своим коллегам: «Сейчас, сейчас, осталось перебрать всего лишь шестьсот миллиардов комбинаций!» А вот еще типичный сюжет: инопланетяне в форме радиосигналов проникают в космические приборы землян, а оттуда и дальше, захватывая Интернет и присоединенных к нему человечков. Ну круто же!

В реальности мы пока не видим масштабных и успешных кибератак на космическую технику. Хотя подозрения иногда возникают. Так, некоторые конспирологи обвиняли хакеров в провалах последних запусков российских зондов к Марсу. Тут есть определенная логика: ведь первую мягкую посадку на Марс совершила советская станция «Марс-3» еще в 1971 году, она даже доставила туда первый марсоход. Казалось бы, дальше все должно быть еще успешнее. Но спустя четверть века, в 1996 году, станция «Марс-96» с четырьмя посадочными модулями сгорела вскоре после запуска. Та же история повторилась в 2011 году: неудачей закончился запуск российской станции «Фобос-Грунт», вместе с которой погиб и первый китайский зонд для Марса «Инхо-1».

Да, в официальной версии аварий этих станций нет никаких хакеров. Но если почитать интервью гендиректора НПО им. Лавочкина, там ясно сказано, что проблемы с безопасностью у них были очень серьезные, и аппаратуру марсианских станций можно было легко повредить еще до запуска: «Поленился надеть антистатический браслет, коснулся тайком аппарата — щелкнуло статическое электричество, и все, где-то перегрузилась микросхема, бомба для будущих проблем заложена…»

Держа в голове подобные сюжеты, мы с коллегами несколько лет назад сделали космическую секцию на одной из конференций по кибербезопасности. В целом доклады получились интересные, однако космические эксперты снова опустили нас на Землю в вопросах кибератак. По их словам, с космическими системами управления не работает классическая схема взлома, когда хакер берет общедоступный контроллер, скачивает прошивку у производителя, спокойно исследует у себя на стенде, а потом атакует «боевую» систему по найденным уязвимостям. Космическая техника достаточно уникальна, нужно годами работать с конкретной системой, чтобы в ней разбираться, и вторую такую же для тестов не найдешь.

Поэтому, говорили нам знатоки космических систем, основные уязвимости — не в космосе, а на Земле. Причем такие, что триллер из них не сделаешь. Скорее, комедию. Например, полученные со спутника секретные данные надо передать заказчику — как это делается? Через обычный Интернет со всеми его утечками. А если не хочется утечек, возвращайся к дедовским методам: курьеры с бронированными чемоданчиками.

Или вот другая земная история. В начале сентября 2018 года агенты ФБР эвакуировали астрономическую обсерваторию в штате Нью-Мексико и держали ее в карантине больше недели. Неужели инопланетяне? Ведь именно так начинался фантастический роман «Слепое озеро» Роберта Чарльза Уилсона, да и рассказ «Белая трость калибра 7,62» Онджея Неффа. Но все оказалось проще: один вахтер обсерватории использовал рабочий Wi-Fi, чтобы качать детское порно.

Однако сказанное не означает, что в космосе все хорошо с кибербезопасностью и остается только смеяться над Голливудом. Дело в том, что за последние годы многое поменялось. В новых космических системах все меньше аналоговой техники с уникальными технологиями, зато все больше стандартных цифровых решений известных производителей. И неудивительно — ведь на роль космических лидеров XXI века претендуют именно лидеры IT-индустрии.

Смотрите: компания SpaceX — это Илон Маск, один из основателей платежной системы PayPal. Другой создатель космических кораблей (пока cуборбитальных), компания Blue Origin — проект Джеффа Безоса, основателя Amazon. А еще был Spaceship One, который финансировал Пол Аллен, основавший вместе с Биллом Гейтсом Microsoft, — в дальнейшем SpaceShipOne превратился в SpaceshipTwo Ричарда Брэнсона. Империя добра Google тоже старается не отставать — проводит конкурс луноходов Lunar XPRIZE. Ну и не забудем отечественных звездных айтишников: Юрий Мильнер, основатель Mail.ru и венчурного фонда DST Global, финансирует проект межзвездного зонда Breakthrough Starshot, который в следующем десятилетии собираются запустить к ближайшей к нам экзопланете Проксима Центавра b.

Лично мне на этом месте вспоминается чья-то крылатая фраза: «Я никогда не полечу на самолете, построенном программистами». Очевидно, что перенос нынешней IT-индустрии в космос несет с собой все ее проблемы — от адской религии «Аджайл» до хакерских войн.

В первую очередь это касается спутников связи. Бразильская мафия, например, еще в позапрошлом десятилетии придумала использовать американские военные спутники: для получения качественной, бесплатной и анонимной связи достаточно собрать несложную антенну. Но для киберпреступников особенно ценна другая фича — физическая недоступность ретрансляторов. Представьте хакерскую группу, которая управляет ботнетами. Чтобы сорвать их атаку, правоохранительным органам достаточно вычислить адрес командного центра, а потом прийти к провайдеру и изъять соответствующий сервер. Но как изъять сервер, если физически он стоит где-нибудь в глухих джунглях, а его адрес — летает в космосе? Ага, незадача. Именно поэтому APT-группы, такие как Turla, с успехом используют взломанные спутниковые каналы для своей деятельности.

Не исключено, что в этой деятельности хакерам поможет и запуск новых низкоорбитальных спутниковых группировок OneWeb, Starlink и «Сфера». Уже сейчас эксперты по безопасности отмечают в этих космических разработках именно те проблемы, которые давно известны земной IT-индустрии. Производители стараются максимально «срезать косты», поэтому для сборки и обслуживания больших групп спутников используются дешевые и широкодоступные компоненты различных производителей. Многие компоненты не анализируются на предмет безопасности, поскольку это требует дополнительных расходов. Зато злоумышленники могут легко найти эти компоненты на Земле и выявить — или даже заранее внедрить — уязвимости, необходимые для атак. При этом до сих пор не существует государственных стандартов касательно кибербезопасности спутников.

В заключение упомяну еще один сценарий, специально для тех, кто обычно говорит: «Ну, меня это не касается — у меня же нет миллионов, которые можно украсть, и нет серверов, которые можно взломать». Этим людям стоит посмотреть российский фантастический фильм «Вторжение», где показана очень реалистичная атака на простых граждан. Искусственный интеллект из космоса, захвативший телекомы, начинает звонить всем людям, изображая голоса их начальников и родственников, и просит их выполнить определенные действия. И люди соглашаются, превращаясь в армию послушных зомби.

Если отложить в сторону инопланетное происхождение захватчика, в этой атаке легко узнаются современные методы телефонных мошенников, к которым добавлен более детальный сбор персональных данных (да, такое уже есть), подделка нужного голоса (и это уже есть), а также взлом систем связи через атаку на спутники — что тоже реально, как вы уже поняли из этой статьи.

В общем, не надо думать, что космические хакеры до вас не дотянутся. Поэтому доешьте вашу космическую кашу и обновите ваш космический антивирус.



Источник

ИИ в жизни

Космические хакеры: мифы и реальность

admin 14.06.2025
admin


Фантасты, как известно, любят ронять на Землю астероиды или куски Луны. Но в фильме «Падение Луны» (Moonfall), который выходит на экраны в феврале, речь идет не о природной катастрофе, а о некой техногенной заразе. И среди технологий защиты, используемых в этом космическом триллере, внимательные зрители могут даже разглядеть слово Kaspersky.

Однако мы не будем устраивать спойлеров по фильму, а попробуем разобраться, в чем может состоять реальная космическая киберугроза. Фантасты-то давно разобрались: у них регулярно кто-нибудь умудряется перенаправить ракету в другую сторону, сидя за домашним ноутбуком, или взломать одной командой некий центр управления и вырубить целую армию дронов. Или в последний момент разблокировать кодовый замок в стыковочном шлюзе, крича своим коллегам: «Сейчас, сейчас, осталось перебрать всего лишь шестьсот миллиардов комбинаций!» А вот еще типичный сюжет: инопланетяне в форме радиосигналов проникают в космические приборы землян, а оттуда и дальше, захватывая Интернет и присоединенных к нему человечков. Ну круто же!

В реальности мы пока не видим масштабных и успешных кибератак на космическую технику. Хотя подозрения иногда возникают. Так, некоторые конспирологи обвиняли хакеров в провалах последних запусков российских зондов к Марсу. Тут есть определенная логика: ведь первую мягкую посадку на Марс совершила советская станция «Марс-3» еще в 1971 году, она даже доставила туда первый марсоход. Казалось бы, дальше все должно быть еще успешнее. Но спустя четверть века, в 1996 году, станция «Марс-96» с четырьмя посадочными модулями сгорела вскоре после запуска. Та же история повторилась в 2011 году: неудачей закончился запуск российской станции «Фобос-Грунт», вместе с которой погиб и первый китайский зонд для Марса «Инхо-1».

Да, в официальной версии аварий этих станций нет никаких хакеров. Но если почитать интервью гендиректора НПО им. Лавочкина, там ясно сказано, что проблемы с безопасностью у них были очень серьезные, и аппаратуру марсианских станций можно было легко повредить еще до запуска: «Поленился надеть антистатический браслет, коснулся тайком аппарата — щелкнуло статическое электричество, и все, где-то перегрузилась микросхема, бомба для будущих проблем заложена…»

Держа в голове подобные сюжеты, мы с коллегами несколько лет назад сделали космическую секцию на одной из конференций по кибербезопасности. В целом доклады получились интересные, однако космические эксперты снова опустили нас на Землю в вопросах кибератак. По их словам, с космическими системами управления не работает классическая схема взлома, когда хакер берет общедоступный контроллер, скачивает прошивку у производителя, спокойно исследует у себя на стенде, а потом атакует «боевую» систему по найденным уязвимостям. Космическая техника достаточно уникальна, нужно годами работать с конкретной системой, чтобы в ней разбираться, и вторую такую же для тестов не найдешь.

Поэтому, говорили нам знатоки космических систем, основные уязвимости — не в космосе, а на Земле. Причем такие, что триллер из них не сделаешь. Скорее, комедию. Например, полученные со спутника секретные данные надо передать заказчику — как это делается? Через обычный Интернет со всеми его утечками. А если не хочется утечек, возвращайся к дедовским методам: курьеры с бронированными чемоданчиками.

Или вот другая земная история. В начале сентября 2018 года агенты ФБР эвакуировали астрономическую обсерваторию в штате Нью-Мексико и держали ее в карантине больше недели. Неужели инопланетяне? Ведь именно так начинался фантастический роман «Слепое озеро» Роберта Чарльза Уилсона, да и рассказ «Белая трость калибра 7,62» Онджея Неффа. Но все оказалось проще: один вахтер обсерватории использовал рабочий Wi-Fi, чтобы качать детское порно.

Однако сказанное не означает, что в космосе все хорошо с кибербезопасностью и остается только смеяться над Голливудом. Дело в том, что за последние годы многое поменялось. В новых космических системах все меньше аналоговой техники с уникальными технологиями, зато все больше стандартных цифровых решений известных производителей. И неудивительно — ведь на роль космических лидеров XXI века претендуют именно лидеры IT-индустрии.

Смотрите: компания SpaceX — это Илон Маск, один из основателей платежной системы PayPal. Другой создатель космических кораблей (пока cуборбитальных), компания Blue Origin — проект Джеффа Безоса, основателя Amazon. А еще был Spaceship One, который финансировал Пол Аллен, основавший вместе с Биллом Гейтсом Microsoft, — в дальнейшем SpaceShipOne превратился в SpaceshipTwo Ричарда Брэнсона. Империя добра Google тоже старается не отставать — проводит конкурс луноходов Lunar XPRIZE. Ну и не забудем отечественных звездных айтишников: Юрий Мильнер, основатель Mail.ru и венчурного фонда DST Global, финансирует проект межзвездного зонда Breakthrough Starshot, который в следующем десятилетии собираются запустить к ближайшей к нам экзопланете Проксима Центавра b.

Лично мне на этом месте вспоминается чья-то крылатая фраза: «Я никогда не полечу на самолете, построенном программистами». Очевидно, что перенос нынешней IT-индустрии в космос несет с собой все ее проблемы — от адской религии «Аджайл» до хакерских войн.

В первую очередь это касается спутников связи. Бразильская мафия, например, еще в позапрошлом десятилетии придумала использовать американские военные спутники: для получения качественной, бесплатной и анонимной связи достаточно собрать несложную антенну. Но для киберпреступников особенно ценна другая фича — физическая недоступность ретрансляторов. Представьте хакерскую группу, которая управляет ботнетами. Чтобы сорвать их атаку, правоохранительным органам достаточно вычислить адрес командного центра, а потом прийти к провайдеру и изъять соответствующий сервер. Но как изъять сервер, если физически он стоит где-нибудь в глухих джунглях, а его адрес — летает в космосе? Ага, незадача. Именно поэтому APT-группы, такие как Turla, с успехом используют взломанные спутниковые каналы для своей деятельности.

Не исключено, что в этой деятельности хакерам поможет и запуск новых низкоорбитальных спутниковых группировок OneWeb, Starlink и «Сфера». Уже сейчас эксперты по безопасности отмечают в этих космических разработках именно те проблемы, которые давно известны земной IT-индустрии. Производители стараются максимально «срезать косты», поэтому для сборки и обслуживания больших групп спутников используются дешевые и широкодоступные компоненты различных производителей. Многие компоненты не анализируются на предмет безопасности, поскольку это требует дополнительных расходов. Зато злоумышленники могут легко найти эти компоненты на Земле и выявить — или даже заранее внедрить — уязвимости, необходимые для атак. При этом до сих пор не существует государственных стандартов касательно кибербезопасности спутников.

В заключение упомяну еще один сценарий, специально для тех, кто обычно говорит: «Ну, меня это не касается — у меня же нет миллионов, которые можно украсть, и нет серверов, которые можно взломать». Этим людям стоит посмотреть российский фантастический фильм «Вторжение», где показана очень реалистичная атака на простых граждан. Искусственный интеллект из космоса, захвативший телекомы, начинает звонить всем людям, изображая голоса их начальников и родственников, и просит их выполнить определенные действия. И люди соглашаются, превращаясь в армию послушных зомби.

Если отложить в сторону инопланетное происхождение захватчика, в этой атаке легко узнаются современные методы телефонных мошенников, к которым добавлен более детальный сбор персональных данных (да, такое уже есть), подделка нужного голоса (и это уже есть), а также взлом систем связи через атаку на спутники — что тоже реально, как вы уже поняли из этой статьи.

В общем, не надо думать, что космические хакеры до вас не дотянутся. Поэтому доешьте вашу космическую кашу и обновите ваш космический антивирус.



Источник

Обзор сервисов

SpaceAI

admin 14.06.2025
admin


SpaceAI – это маркетплейс продуктов с искусственным интеллектом, который делает ИИ доступным для каждого пользователя, ниши и задачи.

SpaceAI предлагает широкий выбор инструментов и сервисов на основе ИИ, чтобы вы могли найти идеальное решение для любых нужд.

Главные преимущества SpaceAI:

  • Доступность: SpaceAI делает ИИ доступным для всех, независимо от уровня опыта и знаний.
  • Масштабируемость и адаптивность: SpaceAI предлагает оптимизацию и персонализацию сервисов для каждого, что создает комфортный пользовательский опыт.

Миссия SpaceAI – упростить взаимодействие с искусственным интеллектом.

SpaceAI

Как это работает?

  1. Переход на маркетплейс: Выберите ИИ-продукт из широкого ассортимента.
  2. Информация о продукте: Ознакомьтесь с описанием и возможностями ИИ-сервиса и нажмите кнопку “Попробовать”, чтобы использовать его в своих задачах.
  3. Workspace: Работайте с выбранным ИИ-продуктом в удобном Workspace и переключайтесь между разными ИИ-продуктами по мере необходимости.

SpaceAI – это платформа, которая позволяет вам использовать ИИ просто и эффективно, не требуя глубоких знаний в этой области.

Попробуйте SpaceAI и откройте для себя мир искусственного интеллекта!



Источник

ИИ в бизнесеИИ в искусствеИИ в науке

5 лучших историй данных 2023 года: Play Microsoft в облачной войне, получение данных DataBricks и многое другое

admin 14.06.2025
admin

Присоединяйтесь к событию, которым доверяют лидеры предприятия в течение почти двух десятилетий. VB Transform объединяет людей, строящих реальную стратегию ИИ предприятия. Узнать больше


2023 год был годом генеративного ИИ. Однако, поскольку каждая компания стремилась укрепить свою стратегию ИИ, они также реализовали ценность чистых и высококачественных данных, возвращаясь к необходимости надежной инфраструктуры в смесь. От Snowflake до Microsoft, поставщики экосистемы данных обналичили эту возможность и перемещались, иногда даже приобретали известных игроков, чтобы дать своим клиентам возможность использовать свои данные для различных приложений искусственного интеллекта, а также внедрить различные возможности искусственного интеллекта в свои продукты.

Это 5 лучших историй данных VentureBeat 2023 года

1. Microsoft, чтобы победить Amazon и Google в облачной войне

В мае Microsoft анонсировала Fabric-сквозную аналитическую платформу, которая объединяет все инструменты данных и инструменты аналитики, включая Azure Synapse Analytics и Power BI, в один унифицированный продукт. Мы поговорили с аналитиками, чтобы понять, что делает это предложение, которое направлено на то, чтобы разблокировать потенциал данных и заложить основу для ИИ, уникальный и может помочь Microsoft «Leapfrog» Amazon и другими облачными поставщиками, такими как Google. По крайней мере, когда дело доходит до обслуживания крупных корпоративных компаний.

«В связи с тем, что все эти возможности собираются вместе, Microsoft определенно имеет небольшое преимущество перед другими гиперспешами на данный момент», — сказал VentureBeat Ноэль Юханна, аналитик Forrester.

2. Рост векторной базы данных, новый вид базы данных для эпохи ИИ

Поскольку генеративный ИИ является точкой разговора для каждого бизнеса, Чарльз Xie, генеральный директор и основатель Zilliz, обсудил рост векторных баз данных, новую категорию управления базами данных и сдвиг парадигмы для использования экспоненциальных объемов неструктурированных данных, находящихся в непонтер в хранилищах объектов. Векторные базы данных обеспечивают новую мысль о новом уровне возможности поиска неструктурированных данных, в частности, но могут также заняться полуструктурированными и даже структурированными данными. Xie также рассказал о том, как компании должны обращаться к векторным базам данных, чтобы нацелиться на их соответствующие варианты использования.

3. Приобретение DataBricks ‘1,3 миллиарда долларов MOSAICML

DataBricks попала в заголовки газет перед ежегодным саммитом в июне, когда он объявил о приобретении компании AI MosaicML за 1,3 миллиарда долларов. Идея заключалась в том, чтобы привлечь модели Mosaicml и модели искусственного интеллекта под его зонтиком, предоставив предприятиям объединенную платформу, где они могут управлять активами данных и использовать их для создания безопасных генеративных приложений искусственного интеллекта.

«Каждая организация должна быть в состоянии извлечь выгоду из революции ИИ с большим контролем над тем, как используются их данные. Databricks и Mosaicml имеют невероятную возможность демократизировать ИИ и сделать Лейкхаус лучшим местом для создания генеративных ИИ и LLM», — сказал Али Годси, соучредитель и генеральный директор Databricks.

4. Salesforce партнеры за более сильные основы данных

За последний год гигантские Salesforce Giant Management Customer Management (CRM) усилили свою стратегию ИИ с помощью нескольких улучшений продукта. Чтобы поддержать эти инициативы, в сентябре компания, возглавляемая Марком Бениоффом, объявила, что ее собственное облако данных, которое объединяет информацию из разных источников для размещения единых профилей клиентов в режиме реального времени, будет поддерживать двунаправленный обмен данными и доступ к платформе Databricks Data Lakehouse и облако данных Snowflake.

Этот шаг позволяет совместным клиентам компаний обогащать свои наборы данных и питать дополнительные варианты использования, включая создание и развертывание более способных моделей, ориентированных на различные критически важные проблемы.

5. Документ Снежинки для неструктурированного поиска данных

Snowflake поднял волны в июне с запуском документа AI, нового инструмента с большой языковой моделью (LLM), который позволяет предприятиям быстро извлекать стоимость из их заграждения неструктурированных документов (представьте себе счета -фактуры PDF). Этот шаг ознаменовал серьезную разработку компании, которая началась с акцента на структурированных данных, давая командам простой способ мобилизации полезной неструктурированной информации, которая часто остается разбросанной по всем бункеру.

«Мы разблокируем новую эру данных для клиентов, используя ИИ и устранение бункеров, ранее связанных форматом, местоположением и многим другим, чтобы революционизировать, как организации поставляют свои данные на работу и проводят информацию с облаком данных», — сказал Snowflake SVP из Product Christian Kleinerman.



Источник
ИИ в жизни

Иван Квятковский: «В кибербезопасность я попал случайно»

admin 14.06.2025
admin


Он живет в Клермон-Ферране, в самом центре Франции. Пишет фэнтези, иногда прыгает с парашютом и старается сделать каждый день своей жизни запоминающимся. А еще он — член команды Global Research and Analysis Team (GReAT). Это подразделение экспертов «Лаборатории Касперского» исследует целевые атаки и продвинутые вредоносные программы по всему миру, раскрывая деятельность таких хакерских групп, как Carbanak, Cozy Bear и Equation.

— Иван, твое имя сразу заставляет спросить: у тебя есть какие-то славянские корни?

— Более или менее. Имя унаследовано от моего деда с отцовской стороны. Фамилия «Квятковский» пришла из Польши, но самое смешное, что это не собственная фамилия деда: он был приемным ребенком, так что его реальное имя и происхождение неизвестны. То есть славянские корни определенно есть, но какие именно — уже не узнать.

— Ты анализируешь вредоносное ПО и хакерскую активность. Как можно получить такую профессию? Я сомневаюсь, что такие вещи были в списке курсов, когда ты учился в университете.

— Да, во времена моей молодости не было еще такого вузовского предмета, как кибербезопасность, не говоря уже о каких-то специальных курсах по анализу вредоносного ПО. Честно говоря, я вообще попал в эту сферу случайно.

В 2008 году я готовился получить диплом по программированию и планировал работать в области искусственного интеллекта. Перед поездкой в Ванкувер на стажировку мне нужно было расторгнуть договор на интернет-доступ, поскольку я не хотел оплачивать все то время, что буду за границей. Я связался с провайдером, объяснил ситуацию. Они сказали, что я должен прислать им письмо примерно за месяц до отъезда, и они обо всем позаботятся.

Интервью с Иваном Квятковским из Kaspersky GReAT

Так я и сделал, и буквально через пару дней обнаружил, что Интернет уже отключен. Никогда еще в истории интернет-провайдеров запрос пользователя не обрабатывался с такой скоростью! Но шутки шутками, а для студента-компьютерщика остаться на месяц без Интернета — немыслимая перспектива. Мой провайдер не мог восстановить доступ, или, что более вероятно, им просто не хотелось. Поэтому я стал изучать уязвимости Wi-Fi, чтобы подключиться к соседской точке доступа до отъезда.

В те времена все использовали протокол WEP, а он был очень дырявый. Вот таким образом я почувствовал вкус к компьютерной безопасности и сразу понял, что буду заниматься такими исследованиями и дальше. Ну а дальше простая логика: можно было заниматься исследованиями без разрешения, что в итоге могло привести к аресту, а можно было сделать из этого увлечения легальную профессию. Естественно, я выбрал второе.

Я почти сразу забросил искусственный интеллект и начал самостоятельно изучать информационную безопасность в дополнение к основной учебе. Когда я получил диплом, то уже мог найти работу в этой сфере — с тех пор я в ней и остаюсь.

— Забавно, у меня как раз следующий вопрос в списке был такой: а можно ли вообще стать исследователем безопасности, не будучи в душе хакером?

— Я бы сказал, что такая работа требует серьезной увлеченности и самоотдачи и обычно привлекает очень настойчивых людей. Это вполне характерные черты хакерского духа.

— А как ты оказался в «Лаборатории Касперского»?

— До этого я сотрудничал с небольшими компаниями, которые предоставляют ИБ-сервисы в Париже. Работа была неплохая, но я почувствовал, что хочется перейти на новый уровень, делать что-то по-настоящему значимое. Исследование киберугроз показалось мне именно такой работой.

Я выбрал «Лабораторию Касперского» в 2018 году, как раз после того, как на компанию обрушилась волна негатива в западных СМИ. Моя интуиция подсказывала, что если группа экспертов по безопасности сумела разозлить так много людей — значит, эти ребята делают правильное дело. Будучи теперь частью этой команды, могу подтвердить, что не ошибся.

Интервью с Иваном Квятковским из Kaspersky GReAT

— В тот год представители компании FireEye признались, что проявляют определенную избирательность при разглашении информации о вредоносном ПО: они не спешат публично рассказывать о найденном зловреде, если он был создан спецслужбами США. Это вполне понятная позиция для американской компании. Но ведь команда GReAT — международная, тут работают эксперты из России, из западных стран, из стран Азии… Как вы решаете такие вопросы, если они вообще возникают?

— Лично у меня нет каких-то специальных запретов на исследования вредоносного ПО, которое по происхождению может быть российским, или американским, или французским. Но даже если бы они у меня были, в нашей международной команде есть много других экспертов, которые с радостью займутся исследованием подобной угрозы. В этом смысле у нас нет никаких ограничений в отношении злоумышленников, которых мы можем выслеживать.

На более высоком уровне, на мой взгляд, необходимо четко разделять нападение и защиту. Иногда государственные службы имеют законные причины провести кибератаку — например, для борьбы с терроризмом. В других случаях это не так — например, если говорить об атаках с целью кражи интеллектуальной собственности. Но у нас, экспертов GReAT, нет достаточной квалификации для определения того, какие действия считать законными. Если бы мы выступали в роли арбитров, то погрязли бы в неразрешимых противоречиях.

По-моему, самое правильное отношение к этому вопросу выражается словами философа и правоведа Монтескьё: «Сила останавливает силу». Государственные спецслужбы могут применять силу, а мы как компания, занимающаяся защитой, обладаем силой для того, чтобы усложнить им жизнь. Благодаря нашей работе им приходится дважды подумать, прежде чем запустить атаку. Мы делаем их атаки дороже и таким образом ограничиваем применение этой силы во вред людям. Для меня такого объяснения вполне достаточно, чтобы расследовать любые операции в киберпространстве, без оглядки на их происхождение.

Я думаю, присутствие «Лаборатории Касперского» на рынке исследования угроз играет решающую роль, и ни в коем случае нельзя допустить, чтобы единственный вендор, не присоединившийся ни к какой стороне, был изгнан с рынка. Я надеюсь, все наладится, и мы продолжим выявлять APT, с какой бы стороны ни приходили кибератаки. Мы исследователи равных возможностей!

Интервью с Иваном Квятковским из Kaspersky GReAT

— Эксперты GReAT в марте провели вебинар, посвященный анализу кибератак на Украину: там упоминались HermeticWiper, WisperGate, Pandora… В то же время увеличилось и число атак на российские организации: вайперы, DDoS, прицельный фишинг. Однако мы не видели специальных публикаций GReAT об атаках на Россию. Почему?

— В основном это вопрос количества. Атак на Украину было много, они хорошо заметны, поскольку рассчитаны на деструктивный эффект: стирание данных, шифровальщики и тому подобное. Многие наши конкуренты тоже внимательно наблюдают за Украиной, в некоторых случаях они даже сотрудничают с нами, и это позволяет получить более точные данные о том, что происходит в этой стране. Что, в свою очередь, приводит к более активному освещению в СМИ.

Атаки на Россию тоже идут, но они менее заметны. Мы описали некоторые из них в наших отчетах для частных клиентов. И сейчас мы наблюдаем активность некоторых хакерских групп в этом регионе (в основном китайскоговорящих).

— Мы слышали заявления от имени Anonymous об атаках на российские сайты, и некоторые сайты действительно пострадали от дефейса. Ты веришь, что это то же самое движение Anonymous, которое было 15 лет назад?

— По-моему, Anonymous как «народное движение» закончилось много лет назад. Конечно, и сейчас есть настоящие хактивисты, которые могут называться этим именем. Однако не представляет сомнений, что время от времени APT-группировки используют этот «бренд» для прикрытия своих кибервоенных операций.

Я вообще считаю, что исследователям киберугроз не стоит верить в самоназвание хакерских групп. Если хочется определить, какая группа действительно устроила атаку, лучше сосредоточиться на технических особенностях этой атаки.

Интервью с Иваном Квятковским из Kaspersky GReAT

— Государственные службы некоторых европейских стран посоветовали своим гражданам отказаться от продуктов «Лаборатории Касперского». Но Франция как будто пытается быть нейтральной в этом вопросе. Это из-за выборов? Или у французского народа действительно какое-то другое отношение к конфликту на Украине?

— Я думаю, тут дело не в народе, а в государственных институтах. Французское национальное агентство по кибербезопасности, ANSSI, всегда старалось держаться нейтрально по большинству вопросов. В остальном же, как мне кажется, в отношении украинского конфликта Франция придерживается такой же позиции, как и остальная Европа.

— Каковы теперь отношения GReAT с остальным миром информационной безопасности? Говорят, некоторые ИБ-организации уже открещиваются от сотрудничества. Как это повлияет на вашу работу?

— Основная проблема связана с американскими компаниями, которые предоставляли нам некоторые полезные сервисы. Они либо собираются прекратить сотрудничество, либо уже ограничили нам доступ к своим инструментам. Это, конечно, ухудшает наши возможности при проведении исследований.

Что касается коллег по индустрии — да, некоторые перестали общаться с нами. Однако в большинстве случаев наши личные отношения с другими ИБ-экспертами не испортились.

В целом очевидно, что сокращение обмена информацией об угрозах сокращает способность всей индустрии выполнять свои задачи.

— А как эксперты GReAT общаются друг с другом? У вас бывают встречи в реале? Съезжаетесь в Москву, чтобы вместе выпить пива?

— Честно говоря, в последнее время с этим трудновато. В основном мы работаем удаленно, но в каждом регионе проводятся свои еженедельные встречи для координации работы. Когда я только начал работать в «Лаборатории Касперского», у нас была как минимум одна общая ежегодная встреча всей команды, а также конференция Security Analyst Summit, на которой тогда тоже собирались вживую. Но из-за ковида в последние пару лет собраться не получалось.

Раньше я регулярно ездил в Москву, чтобы пообщаться с российскими экспертами нашей команды. Но теперь непонятно, получится ли так делать и дальше. Надеюсь, мы все-таки найдем возможность видеться, поскольку эти встречи всегда были замечательными.



Источник

Обзор сервисов

T-lite

admin 14.06.2025
admin


Содержание
  1. Возможности модели T-lite
  2. Преимущества и производительность T-lite
  3. Семейство Gen-T
  4. Заключение

Возможности модели T-lite

С помощью T-lite разработчики могут создавать собственные бизнес-решения на основе ИИ без необходимости передачи данных третьим лицам. Среди возможных применений модели:

  • Анализ больших объёмов данных: T-lite позволяет обрабатывать и анализировать большие массивы данных, выявлять скрытые закономерности и тенденции.
  • Интеллектуальные поисковые системы: Модель может улучшить точность и релевантность результатов поиска, предоставляя пользователям более качественные ответы на их запросы.
  • Сервисы суммаризации текста: T-lite способна эффективно обобщать большие текстовые массивы, выделяя ключевые моменты и сокращая время на чтение.
  • Ассистенты поддержки: Разработка чат-ботов и виртуальных помощников, способных понимать и отвечать на вопросы пользователей с высокой точностью.

Преимущества и производительность T-lite

По данным «Т-банка», T-lite после дообучения под конкретные задачи может выдавать ответы, «сопоставимые по качеству» с моделями на 20 миллиардов параметров. В тестах MERA, Ru-mt-bench и Arena T-lite обошла llama3-8b-instruct и ChatGPT 3.5, демонстрируя высокие показатели производительности.

Семейство Gen-T

T-lite входит в Gen-T — семейство собственных языковых моделей «Т-банка», ориентированных на бизнес-приложения. Эти модели разработаны для решения «конкретных узкоспециализированных задач», что делает их идеальными инструментами для корпоративных нужд.

Заключение

Запуск модели T-lite от «Т-банка» открывает новые горизонты для разработчиков и бизнеса. Возможность создавать ИИ-решения без передачи данных третьим лицам, высокая производительность и ориентированность на бизнес-задачи делают эту модель важным инструментом для всех, кто хочет использовать искусственный интеллект в своей работе.



Источник

Новости

Обновления Bard от Google: что нового в чат-боте и стоит ли им пользоваться

admin 14.06.2025
admin


​Недавно Google выпустила очередное обновлений для своего чат-бота Bard. Новые функции включают расширения, которые интегрируют Bard с другими сервисами Google, такими как Gmail, Docs и YouTube. Компания продолжает экспериментировать с искусственным интеллектом как частью следующей волны информационного поиска.

Обновления Bard от Google: что нового в чат-боте и стоит ли им пользоваться

Хотя первоначальный обзор расширений Bard не впечатляют, тем, у кого много непрочитанных писем в почтовом ящике Gmail или много старых документов в Google Docs, обновление может показаться довольно интересным.

Перед взаимодействием с любым чат-ботом стоит позаботиться о конфиденциальности. 

Если вы решите использовать расширения Workspace, ваш контент из Gmail, Docs и Drive не будет виден модераторам, не будет использован Bard для показа рекламы или для обучения модели Bard

— сообщает Google.

Хватит ли вам таких заверений? Вот как включить обновления для Bard и несколько советов, на что следует обратить внимание.

Как применять расширение Google Bard

Чтобы взаимодействовать с Bard, вам нужно создать учетную запись Google, если у вас ее еще нет. Как только вы войдете в систему, доступ к Bard так же прост, как посещение веб-сайта в браузере.

На главной странице Bard вы можете активировать подключения к Google Flights, Google Hotels, Google Maps, YouTube и Google Workspace, куда входят Gmail, Google Docs и Google Drive. Каждое из этих расширений можно включать и отключать по отдельности.

Если вы решите активировать расширение Workspace, обязательно добавляйте теги к тому, на чем хотите, чтобы чат-бот сосредоточился, например @docs, @drive или @gmail. Вот пример запроса: 

Пожалуйста, проверь мой @gmail и резюмируй непрочитанные письма за сегодня.

Советы по поиску в Gmail и Google Docs

Крайне важно не завышать ожиданий от нововведений для Bard. Многие функции ИИ, выпущенные в 2023 году, были признаны как экспериментальные, и обновление Bard не исключение. Оно нацелено в первую очередь на наиболее свежие письма электронной почты в вашем Gmail. Отвечая запросам, Bard часто ссылался на 5 связанных сообщений. Но когда  его попросили назвать самое старое сообщение в почтовом ящике от конкретного отправителя, чат-бот привел письмо с прошлой недели и ошибся всего на пару лет!

Хотя ответы чат-ботов всегда следует перепроверять, но Bard очень часто выдумывал и неправильно понимал контекст информации из писем и других документов. Например, когда его спросили, «есть ли сообщения от моего отца», Bard выдал случайную рекламу ко Дню отца, которая пылилась в почтовом ящике с 2017 года, и пояснил что это единственное сообщение от него.

Чем могут быть полезны, несовершенные расширения Bard? 

Если вы ищете письмо или документ, который помните примерно по теме, но не деталям, это отличное применение нового Bard. Чат-бот может найти информацию по разным темам — от видеоигр до бассейнов для плавания.

Еще одно интересное применение нового расширения — возможность дать обратную связь по вашим запросам. Когда его попросили выделить письма, которые можно было написать лучше, Bard нашел в почтовом ящике три таких и дал неплохие советы по корректировке тона и сделать их более лаконичными.

Однако чат-бот плохо справляется с нюансами. Когда его спросили, есть ли в почтовом ящике письма с «микроагрессией», ответ Bard был почти комичным. Он выбрал информационную рассылку Брэндона Тейлора, в которой тот назвал телесериал “Золотой век” “сентиментальной периодической драмой”. Bard решил, что “это можно рассматривать как микроагрессию против любителей периодических драм, так как подразумевается, что такие шоу несерьезные и не стоят внимания”. Хотя формально верно, но вряд ли большинство людей назвали бы это микроагрессией.

Несмотря на завышенные ожидания, Bard предстоит еще многое сделать, прежде чем он станет надежным помощником. Пока же классическая строка поиска в верхней части папки «Входящие» остается самым простым способом найти то, что нужно и что это не будет выдумано искусственным интеллектом.



Источник

ИИ в бизнесеИИ в искусствеИИ в науке

Насколько важна объяснение? Применение принципов клинических испытаний к тестированию безопасности ИИ

admin 14.06.2025
admin

Присоединяйтесь к событию, которым доверяют лидеры предприятия в течение почти двух десятилетий. VB Transform объединяет людей, строящих реальную стратегию ИИ предприятия. Узнать больше


Использование ИИ в предприятиях, ориентированных на потребителя, растет-как и в долгосрочной перспективе, как и в долгосрочной перспективе. Давление на лучшее управление ИИ растет только с недавним исполнительным приказом администрации Байдена, который предписывал новые протоколы измерения для разработки и использования передовых систем ИИ.

Сегодня поставщики ИИ и регулирующие органы очень сосредоточены на объяснении как столпе управления ИИ, что позволяет тем, кто пострадал от систем ИИ, наилучшим образом понимать и оспаривать результаты этих систем, включая предвзятость.

В то время как объяснение ИИ является практичным для более простых алгоритмов, как и те, которые используются для утверждения автомобильных кредитов, более поздняя технология ИИ использует сложные алгоритмы, которые могут быть чрезвычайно сложными для объяснения, но все же обеспечивают мощные преимущества.

GPT-4 OpenAI обучается огромным количествам данных, с миллиардами параметров и может выпускать человеческие разговоры, которые революционизируют целые отрасли. Точно так же модели скрининга рака Google DeepMind используют методы глубокого обучения для построения точного обнаружения заболеваний, которые могут спасти жизни.

Эти сложные модели могут сделать практически невозможным отслеживать, где было принято решение, но это может даже не иметь смысла. Вопрос, который мы должны задать себе: должны ли мы лишать мир этих технологий, которые являются только частично объяснимыми, если мы можем обеспечить их выгоду, ограничивая вред?

Даже американские законодатели, которые стремятся регулировать ИИ, быстро понимают проблемы, связанные с объяснение, выявляя необходимость в другом подходе к управлению ИИ для этой сложной технологии — еще более сосредоточенной на результатах, а не только на объяснения.

Работа с неопределенностью в отношении новых технологий не нова

Сообщество медицинских наук давно признало, что во избежание вреда при разработке новых методов лечения необходимо сначала определить, каким может быть потенциальный вред. Чтобы оценить риск этого вреда и уменьшить неопределенность, было разработано рандомизированное контролируемое исследование.

В рандомизированном контролируемом исследовании, также известном как клиническое исследование, участники назначаются для лечения и контрольных групп. Группа лечения подвергается воздействию медицинского вмешательства, а контроль — нет, и наблюдаются результаты в обеих когортах.

Сравнивая две демографически сопоставимые когорты, может быть идентифицирована причинность, то есть наблюдаемое воздействие является результатом конкретного лечения.

Исторически, медицинские исследователи полагались на стабильный дизайн тестирования, чтобы определить долгосрочную безопасность и эффективность терапии. Но в мире ИИ, где система постоянно учится, новые преимущества и риски могут появляться каждый раз, когда алгоритмы переподготовлены и развернуты.

Классическое рандомизированное контрольное исследование может быть не подходит для цели для оценки рисков ИИ. Но в аналогичной структуре может быть полезность, например, A/B -тестирование, которая может измерить результаты системы AI навсегда.

Как A/B -тестирование может помочь определить безопасность искусственного интеллекта

За последние 15 лет A/B -тестирование широко использовалось в разработке продукта, где группы пользователей обрабатываются по -разному для измерения воздействия определенных продуктов или опытных функций. Это может включать в себя определение того, какие кнопки более кликируются на веб -странице или мобильном приложении, и когда время от времени маркетинговой электронной почты.

Бывший глава экспериментов в Бинге, Ронни Кохави, представил концепцию непрерывных экспериментов в Интернете. В этой структуре тестирования пользователи Bing были случайным образом и непрерывно выделены либо на текущую версию сайта (контроль), либо новую версию (обработка).

Эти группы постоянно контролировались, а затем оценивались по нескольким показателям, основанным на общем воздействии. Рандомизация пользователей гарантирует, что наблюдаемые различия в результатах между лечебными и контрольными группами обусловлены интервенционным лечением, а не чем -то другим, таким как время суток, различия в демографии пользователя или какое -то другое лечение на веб -сайте.

Эта структура позволила технологическим компаниям, таким как Bing, а затем Uber, Airbnb и многие другие — внести итеративные изменения в своих продуктах и ​​пользовательском опыте и понять эти изменения в ключевых бизнес -метриках. Важно отметить, что они создали инфраструктуру для этого в масштабе, и эти предприятия в настоящее время управляют потенциально тысячами экспериментов одновременно.

Результатом является то, что многие компании теперь имеют систему для итеративных тестирования изменений в технологии против контроля или эталона: тот, который может быть адаптирован для измерения не только для бизнеса, таких как ClickThrough, продажи и доходы, но также причинно идентифицируют такие вреда, как разнородное воздействие и дискриминация.

Как выглядит эффективное измерение безопасности ИИ

Например, крупный банк может быть обеспокоен тем, что их новый алгоритм ценообразования для личных кредитования является несправедливым в обращении с женщинами. В то время как модель не использует защищенные атрибуты, такие как пол, явно, бизнес обеспокоен тем, что прокси для пола могли использоваться при обучении данных, и поэтому она устанавливает эксперимент.

Те, кто находится в группе лечения, по цене этого нового алгоритма. Для контрольной группы клиентов были приняты решения о кредитовании с использованием контрольной модели, которая использовалась в течение последних 20 лет.

Предполагая, что демографические атрибуты, такие как пол, известны, распределены одинаково и достаточного объема между лечением и контролем, разрозненным воздействием Между мужчинами и женщинами (если он есть) может быть измерено и поэтому ответит, является ли система ИИ справедливой в обращении с женщинами.

Воздействие ИИ на людей может также происходить медленнее для контролируемого развертывания новых функций продукта, где эта функция постепенно выпускается в большую долю пользовательской базы.

В качестве альтернативы, лечение может быть ограничено меньшим, менее рискованным населением в первую очередь. Например, Microsoft использует Red Teaming, где группа сотрудников взаимодействует с системой ИИ нацеленным способом проверки его наиболее значительного ущерба, прежде чем выпустить ее для населения в целом.

Измерение безопасности ИИ обеспечивает ответственность

В тех случаях, когда объясняемость может быть субъективной и плохо изученной во многих случаях, оценка системы ИИ с точки зрения ее результатов на различных популяциях, обеспечивает количественную и протестированную структуру для определения того, действительно ли алгоритм ИИ является вредным.

Критически, это устанавливает ответственность за систему ИИ, где поставщик ИИ может нести ответственность за надлежащее функционирование и согласование системы с этическими принципами. Во все более сложных средах, в которых пользователи обрабатываются многими системами ИИ, непрерывные измерения с использованием контрольной группы могут определить, какая обработка искусственного интеллекта нанесла вред и привлечет к ответственности обработки.

Несмотря на то, что объясняемость остается повышенной целью для поставщиков ИИ и регулирующих органов в разных отраслях, методы, впервые используемые в здравоохранении, а затем приняты в технологии для борьбы с неопределенностью, могут помочь достичь универсальной цели — что ИИ работает так же, как предполагалось, и, самое главное, безопасно.

Кэролайн О’Брайен является главным директором по данным и руководителем продукта в Afiniti, клиентской компании по опыту искусственного интеллекта.

Элазер Р. Эдельман — профессор Эдварда Дж. Потраса в области медицинской инженерии и науки в MIT, профессор медицины в Гарвардской медицинской школе и старший врач в отделении коронарной помощи в Бригаме и женской больнице в Бостоне.



Источник
  • 1
  • …
  • 26
  • 27
  • 28
  • 29
  • 30
  • …
  • 41

Свежие записи

  • GPT-5
  • Фестиваль Original+ представляет программу конкурса «Номинация Инновация»
  • Luma представила ИИ-агентов для креативной индустрии
  • Объявлены победители XVII Национальной премии «Большая цифра»
  • Заменит ли ИИ преподавателей через 5 лет?

About Me

About Me

Designer

Sed ut perspiciatis unde omnis iste natus sit voluptatem accusantium dolor emque.

Keep in touch

Facebook Twitter Instagram Pinterest Behance Youtube

Popular Posts

  • 1

    Openai-Anpropic Cross-тесты подвергают риски джейлбрейка и неправильного использования-что предприятия должны добавить к оценкам GPT-5

  • 2

    Попытки Маск политизировать его AI Grok плохи для пользователей и предприятий — вот почему

  • 3

    Святой! Новый вариант на 200% более быстрый Deepseek R1-0528 появляется из немецкой лаборатории TNG Technology Consulting GmbH

  • 4

    Web Design Trends For “Start Here” Pages

  • 5

    Эффективное использование голосовых ИИ-инструментов: Yandex SpeechKit, Sber SaluteSpeech и другие

  • 6

    Новая архитектура искусственного интеллекту

Рубрики

  • App Design (6)
  • UI/UX (7)
  • Web Design (7)
  • ИИ в бизнесе (42)
  • ИИ в жизни (34)
  • ИИ в искусстве (66)
  • ИИ в науке (43)
  • Новости (255)
  • Обзор сервисов (34)
  • Pinterest
  • Youtube
  • Email
  • Vk
  • Yandex

@2025 - All Right Reserved. Designed and Developed by PenciDesign

Новости искусственного интеллекта и технологий
  • Новости
  • Обзор сервисов
  • ИИ в искусстве
  • ИИ в бизнесе
  • ИИ в науке
  • ИИ в жизни