Новости искусственного интеллекта и технологий
  • Новости
  • Обзор сервисов
  • ИИ в искусстве
  • ИИ в бизнесе
  • ИИ в науке
  • ИИ в жизни
Категория:

ИИ в жизни

ИИ в жизни

Лучшие фильмы и сериалы о хакерах

admin 14.06.2025
admin


Почти в каждом современном фильме — если только он не про сложные отношения драконов и хоббитов — показывают компьютерный взлом. Правда, в большинстве случаев эти сцены выглядят слишком однообразно. Сначала обязательный вскрик типа «Дайте мне еще минуту!», потом пальцы скачут по клавиатуре, мигают какие-то лампочки… Ну и все, суперзащита взломана, побежали дальше. Скучно.

Мы собрали для вас подборку фильмов и сериалов, где хакерские истории поинтересней. Не удивляйтесь, что многие из этих фильмов довольно старые. Ведь, как известно, раньше и трава была зеленей, и хакеры круче. И даже тем, кто занимается безопасностью в наши дни, есть чему поучиться на этой классике.

Военные игры / Wargames (1983)

Юный взломщик влезает на сервер Пентагона и запускает найденную там игру, которую считает симулятором — а на деле провоцирует настоящий международный конфликт. Ситуация, конечно, фантастическая. Но вспомните, какими юными оказываются инициаторы современных кибератак: весной этого года взлом нескольких крупных компаний устроила группировка Lapsus$, в руководстве которой подозревают 16-летнего подростка. На этом фоне старый фильм-предупреждение кажется удивительно пророческим. И это при том, что во время съемок фильма (1981 год!) даже само слово «хакер» еще не использовалось в современном значении.

Тихушники / Sneakers (1992)

Сценарий написали те же авторы, что создали «Военные игры». Главный герой, бывший хакер, остепенился и стал пентестером — его команда проверяет на прочность компьютерные системы по заказу банков и других солидных организаций. Однако жизнь перестает быть томной после того, как агенты АНБ предлагают команде раздобыть некий «черный ящик», взламывающий любые коды (сейчас это назвали бы «квантовым компьютером»).

В фильме отлично показаны многие хакерские трюки, которые работают до сих пор. Но есть и удивительная техника, оставшаяся в прошлом: слепой по кличке Свистун. Такие ребята действительно были популярны в электронном подполье 80-х: они могли не только считывать на слух аудиокоды телефонных систем, но и имитировать такие коды собственным свистом.

Хакеры / Hackers (1995)

Культовая лента среди олдскульных ИБшников. Конечно, сегодня некоторые кадры выглядят смешно — например, изображение компьютерного вируса в виде разноцветных спиралей, напоминающих картинки скринсейвера (кто-то еще помнит, что такое скринсейвер?).

В то же время это один из немногих фильмов, где показан сетевой эффект, ныне известный как распределенная атака. Это вообще лучшая сцена: когда серьезный преступник пытается подставить хакеров-подростков, на помощь им приходит IT-сообщество с разных концов света, от лондонского дэнди с тонким ноутбуком до мрачного русского мужика, который поворачивает рубильник в подвале и говорит: «Поехали…». А еще в этом кино есть идеальная хакерская подруга — юная Анджелина Джоли.

Сеть / The Net (1995)

Триллер о киберпреследовании с точки зрения жертвы. Девушка ссорится с группой хакеров, а они в отместку переписывают ее цифровую личность во всех базах документов. В результате героиня становится преступницей в розыске и должна срочно восстановить свою репутацию.

Фильм вряд ли удивит вас техническими приемами (есть смешные ляпы даже в написании IP-адресов), однако здесь хорошо показана проблема изоляции, которая в наши дни грозит не только отдельным гикам. Человек как будто живет в обществе, но его основная коммуникация — виртуальная, «живых» связей все меньше. И это делает нас очень уязвимыми для тех, кто управляет цифровым миром. В 2020 году сходный сюжет развили в мексиканском сериале «Отмена действия» (Control Z): главная героиня выслеживает хакера, который сливает компромат о личной жизни студентов.

Нирвана / Nirvana (1997)

«Нирвана» вышла за два года до «Матрицы» и не так широко известна. Ну да, создатели «Матрицы» визуализировали цифровое противостояние более доступным языком: не надо больше скучных клавиатур, если можно показать драку виртуальных аватаров. Но при таком подходе методика Нео не отличается от магии Гэндальфа, и вместо техничного киберпанка получается геймерское фэнтези, в котором возможны любые чудеса.

А вот «Нирвана», даже будучи фантастикой, все еще остается таким фильмом, где главной темой являются люди с их настоящими слабостями и способностями. Когда герой, решивший уничтожить опасную компьютерную игру, борется с умной защитной системой, там нет никаких драк и прыжков по крышам: искусственный интеллект атакует хакера его собственными страхами, представленными в образах близких людей. А ведь именно так устроены современные атаки мошенников, которые используют наши персональные данные, наши интересы и наши страхи против нас самих.

23 (1998)

Фильм о группе молодых западногерманских хакеров, которых в конце 80-х обвинили в сотрудничестве с КГБ. Главный герой, Карл Кох, увлекается теориями заговора и начинает ломать компьютерные системы, в том числе пентагоновские. И продает пароли советским агентам. А в конце, прямо как в педагогической брошюре, настает расплата: Кох подсаживается на кокаин и умирает весной 1986 года после того, как взломал Чернобыльскую АЭС.

Но это только в киноверсии. Настоящий же Карл Кох вылечился от наркозависимости в 1987-м. А умер он загадочным образом в 1989 году, вскоре после того, как согласился сотрудничать со следствием по делу о шпионаже в пользу СССР. Так что, возможно, вас заинтересует альтернативный взгляд на ту же историю: документальный фильм «The KGB, the Computer and Me» (2001), снятый по мемуарам одного из охотников за этой хакерской группой.

Взлом / Takedown (2000)

Еще один персонаж из новостей, превращенный в киногероя: Кевин Митник, всемирно известный хакер. Правда, выглядит он в этом фильме не особенно геройски. А все потому, что кино снято по книге человека, который ловил Митника. Этот эксперт по безопасности, Цутому Симомура, является вторым главным героем фильма — а местами даже первым, поскольку крутизна тут явно на стороне безопасника. А Митник, хоть и показывает знаменитые примеры социальной инженерии, все равно выглядит неудачником. Альтернативная версия той же погони — документалка «Freedom Downtime», вышедшая через год после «Взлома» как ответ на голливудские выдумки. В документалке фигурирует настоящий Митник, его знакомые и другие реальные участники событий.

Кто я? / Who Am I (2014)

Более современный вариант того, что происходило в фильме «23». Опять хакерская банда юных немцев, которых втягивают в шпионаж и сделку со спецслужбами. Но на этот раз им удается ловко выпутаться, потому что «программа защиты свидетелей — это тоже программа». Большинство продемонстрированных здесь трюков достаточно известны, но есть своя фишка: в этом фильме забавно изображено общение хакеров в Dark Web, где неизвестно кто продает неизвестно что неизвестно кому. Не ходите, дети, в Африку гулять!

Игра в имитацию / The Imitation Game (2014)

Многие знают Алана Тьюринга по «тесту Тьюринга», который якобы должен показывать, когда машинный интеллект достигнет уровня человеческого разума. На самом деле в своей знаменитой статье Тьюринг вовсе не предлагал сравнивать интеллекты — он писал лишь о возможности машины обыграть человека в одной игре, подразумевающей очень ограниченную (текстовую) коммуникацию. Название этой игры и стало названием фильма о нелегкой судьбе одного из первых настоящих хакеров. Перед нами выдающийся ученый и герой войны, который расшифровал коды немецкой «Энигмы» и спас тысячи людей — но все эти заслуги не помешали британским властям убить Тьюринга с помощью гормональной терапии.

Сноуден / Snowden (2016)

Жизнь известного аналитика Агентства Национальной безопасности США, рассказанная известным борцом за права человека Оливером Стоуном. За два года до этого вышел документальный фильм Citizenfour, посвященный разоблачениям Сноудена — тому, что он поведал журналистам в Гонконге и в Германии, а затем в России, куда бежал от своих бывших сослуживцев. Документалка содержит множество фактов о работе спецслужб, но из нее непонятно, что толкнуло Сноудена на такой отчаянный шаг, который многие считают предательством.

Именно этот вопрос решил прояснить Оливер Стоун. Он показывает, что в молодости Сноуден был настоящим патриотом, работал в ЦРУ, потом в АНБ — и долгое время верил, что делает благое дело. Но система тайной и тотальной слежки за гражданами собственной страны в конце концов разбила идеалы молодости, и держать в себе эту правду Сноуден уже не смог. Да, он подставил спецслужбы, в которых работал — но разоблачение бесконтрольного шпионажа не означает отказ от служения своей стране, говорит нам Стоун.

А теперь — сериалы!

Сеть (2008)

Отечественное кино редко встречается в топах фильмов о высоких технологиях. Оно и понятно: у нас киберпанк наступил сразу в реальной жизни, минуя такие тренировочные площадки, как литература и кино. Вот и сериал «Сеть» прошел незамеченным на фоне гораздо более красочных западных лент о виртуальных битвах.

Тем не менее в «Сети» много интересных деталей. Взять хотя бы основную сюжетную интригу. Во всех перечисленных ранее фильмах нам показывают либо хакера-одиночку, либо группу из трех и более человек. А здесь — два закадычных друга, выпускники одной спецшколы. В лихие 90-е они оказываются без работы и начинают промышлять взломами. Но один все-таки становится «белым», то есть идет работать в информационную безопасность, а другой так и остается преступником. Очень жизненная драма! И еще забавный факт: именно в этом сериале состоялся актерский дебют Евгения Касперского, который успешно сыграл… самого себя.

Мистер Робот / Mr. Robot (2015–2019)

Многие фильмы о хакерах страдают техническими ляпами. С этой точки зрения «Мистер Робот» отличается в лучшую сторону: создатели сериала наняли целую команду ИБ-специалистов для отработки технических деталей. А когда нашему эксперту Костину Раю в предложили оценить реалистичность IT-составляющей этого сериала по шкале от 0 до 10, он поставил оценку 9,5 и отметил, что в большинстве сцен показано мастерское владение хакерскими инструментами.

Зато сюжетные повороты этого сериала, увы, слишком заезжены. Герой, разговаривающий с несуществующим другом, сразу напоминает и «Бойцовский клуб», и «Пи», и многие другие фильмы, где борцы против системы страдают галлюцинациями или расщеплением личности. Так или иначе, если вам нужно наглядное пособие по хакерским техникам, «Мистера Робота» очень даже стоит посмотреть.

Кремниевая долина / Silicon Valley (2014–2019)

Комедия — лучшая форма существования киберпанка в наши дни. Создатели фильмов прошлого, пытаясь предсказывать будущее, слишком серьезно воспринимали хайтек. Если у них появлялся искусственный интеллект, он легко порабощал весь мир. Такой депрессивный мрачняк по-прежнему эксплуатируют в сериалах «Черное зеркало» и «Мир Дикого Запада». Но мы-то знаем, что киберпанковское будущее уже пришло. И что высокие технологии — это не идеальная суперсила, а множество идиотских косяков и багов ежедневно.

Именно об этом — сериал «Кремниевая долина», герои которого живут в реальном, очень криворуком мире хайтека и вынуждены регулярно взламывать не только программы, но и устаревшие бизнес-схемы, моральные нормы и собственные привычки. Они — хакеры в изначальном смысле этого слова, которое в 80-е годы означало энтузиаста-исследователя. А исследовать криворукий мир — это весело!

Русские хакеры: начало (2021)

Мы уже упоминали несколько документалок, и, как вы могли заметить, все они зарубежные. Даже сериал «Hacker: Hunter», в создании которого принимала участие «Лаборатория Касперского», был снят англо-американской студией — лучше всего, на мой взгляд, вышли серии про Carbanak и WannaCry.

Но вот недавно появился первый отечественный документальный сериал о хакерах. Андрей Лошак вообще снимает неплохие документалки. Его предыдущая работа, «Холивар», рассказывает о создании российского Интернета с такими подробностями, которые мало кому известны. Иногда эта дотошность даже мешает распространению фильмов Андрея. Так получилось и с «Русскими хакерами».

Хотя работа над сериалом давно закончена, вы можете посмотреть на «Кинопоиске» только первые три серии — про подпольный мир русских кардеров, работавших в 80-е и 90-е годы. Остальные серии, о более современных хакерах и их связях с известными бизнесменами и спецслужбами, пока решили не показывать. Будем надеяться, что мы их все-таки увидим позже.

В завершение этого обзора стоит признать, что есть еще много фильмов хакерской тематики, которые не вошли в нашу подборку. Мы собирали в основном классику, а потому не трогали такие новинки, как «Цикада 3301» или «Оффлайн». Однако вы можете исследовать это новое кино самостоятельно! Например, сейчас при покупке домашнего антивируса Kaspersky Internet Security можно получить бесплатно полугодовую подписку на сервис «Яндекс-плюс», где доступны эти фильмы.



Источник

ИИ в жизни

Зловредный клиент ChatGPT для Windows

admin 13.06.2025
admin


Золотое правило «если что-то популярно, то этим воспользуются мошенники» на то и правило, что работает практически всегда. Естественно, оно сработало и в случае с популярным чат-ботом ChatGPT, разработанным компанией OpenAI, о котором последние несколько недель говорят буквально из каждого утюга.

Немного о популярности ChatGPT

Когда OpenAI открыла доступ к чат-боту с «искусственным интеллектом» (то есть основанному на нейросетях, которым для обучения скормили базу текстов очень приличного объема), Интернет практически в одночасье изменился до неузнаваемости.

Множество пользователей ринулось проверять, на что способен чат-бот, — и он смог их всерьез удивить. ChatGPT умеет поддерживать диалог так, что создается ощущение переписки с реальным человеком. A главное, он отлично справляется с написанием коротких текстов на заданную тему, причем способен выдерживать заданный стиль, подбирать рифму, адаптироваться под указанный формат и в целом создавать тексты как минимум на уровне начинающего копирайтера, в голову которого загружены экзабайты знаний по всевозможным темам. Также у ChatGPT можно спрашивать совета по малоизвестным вам темам — и в большинстве случаев он дает адекватные рекомендации. Правда, ChatGPT не хуже умеет писать и заведомую ложь или вообще сочинять на ходу, но это уже детали.

ChatGPT стали активно использовать, и не только для развлечения (поболтать или, например, попросить переделать толкиеновского «Хоббита» в поэму Шекспира — почему бы и нет?), но и для дела. При помощи чат-бота можно быстро наполнять сайты контентом, создавать описания для товаров, генерировать квесты для игр и делать еще многое из того, что пригождается людям самых разных профессий в повседневной работе.

OpenAI немедленно столкнулась с повышенной нагрузкой на серверы ChatGPT, так что их мощность пришлось наращивать. В компанию тут же вложилась Microsoft, так что теперь ChatGPT встроен и в поиск Bing, правда, с ограничениями. Google в ответ срочно помчалась расчехлять близкую по возможностям собственную нейронку Bard, которую до этого компания не рассматривала всерьез как готовый для рынка продукт.

Мы уже писали, как ChatGPT может изменить мир кибербезопасности, но пока использование чат-бота для фишинговых атак или разработки вредоносов остается лишь теорией. А на практике ChatGPT используется как приманка для распространения зловредов.

Что в ChatGPT привлекает мошенников

Почему мошенники вдруг стали использовать ChatGPT как приманку? Просто потому, что этот сервис нынче очень популярен.

Несмотря на то что доступ к ChatGPT формально бесплатен, его не всегда легко получить. Во-первых, для того чтобы зарегистрировать учетную запись на сайте OpenAI, нужно ввести электронную почту и телефон. Но подойдет телефонный номер не любой страны — ChatGPT в настоящее время нельзя зарегистрировать в России, Китае, Египте, Иране и еще некоторых странах. Так что разжиться аккаунтом выйдет не у всех.

Во-вторых, даже если вам удалось создать учетную запись на сайте OpenAI, не факт, что у вас получится реально воспользоваться ChatGPT, — сервис практически все время перегружен, поскольку желающих проверить искусственный интеллект в действии или получить какой-нибудь короткий текст для очередного сайта очень много. Настолько много, что OpenAI даже сделала платные учетки с приоритетным доступом и большей скоростью создания текстов за 20 долларов в месяц.

Итак, высокий спрос — есть, сложности с доступом — есть. Мошенникам этого достаточно.

Десктопный клиент, которого нет

Эксперты «Лаборатории Касперского» обнаружили вредоносную кампанию, эксплуатирующую растущую популярность ChatGPT. Мошенники создают группы в социальных сетях, достаточно убедительно мимикрирующие если не под официальные аккаунты OpenAI, то как минимум под сообщества энтузиастов. С этих аккаунтов размещаются столь же официально выглядящие посты — скажем, о том, что ChatGPT быстрее любых популярных сервисов набрал первый миллион пользователей. В конце такого поста приводится ссылка на сайт, где якобы можно скачать десктопный клиент для ChatGPT.

Впечатляющая статистика и ненавязчивая ссылка — все как мы любим

Впечатляющая статистика и ненавязчивая ссылка — все как мы любим

В этих же группах публикуются фейковые данные предсозданных (precreated) учетных записей, которые якобы можно использовать для работы с ChatGPT. Чтобы добавить мотивации потенциальным пользователям, злоумышленники указывают, что на балансе каждого такого аккаунта якобы уже лежит по 50 долларов, которые можно потратить на работу с сервисом. Создается ощущение, что вам дали шанс, не сталкиваясь со сложностями создания аккаунта, воспользоваться популярным чат-ботом, да еще и бесплатно заполучить премиум-возможности: нужно только скачать десктопный клиент для работы с ChatGPT — и дело в шляпе.

Налетай, торопись, скачивай, пока все не разобрали!

Налетай, торопись, скачивай, пока все не разобрали!

Вы в целом наверняка уже представляете, что происходит дальше, но мы все-таки расскажем подробности. При переходе по ссылке с весьма убедительным адресом открывается неплохо сделанный сайт, предлагающий «Скачать ChatGPT для Windows». Это не официальный сайт, но он весьма похож на оригинал. Если нажать на кнопку скачивания, то действительно загрузится архив с неким исполняемым файлом.

Сайт мошенников полностью дублирует оригинал, только вместо кнопки "Try ChatGPT" — кнопка "Download for Windows"

Сайт мошенников полностью дублирует оригинал, только вместо кнопки «Try ChatGPT» — кнопка «Download for Windows»

Если этот архив распаковать и запустить исполняемый файл, то при попытке установки (в зависимости от версии Windows) пользователь либо увидит сообщение о том, что, дескать, программу по какой-то причине установить не удалось, либо вообще не увидит никаких сообщений — и на этом процесс вроде бы заканчивается. «Какая жалость, не получилось воспользоваться предсозданным аккаунтом с премиум-возможностями«, — подумает пользователь и забудет об инциденте. Ну и, возможно, пойдет регистрировать обычный аккаунт на настоящем сайте ChatGPT.

Если вы увидели такое сообщение — установка трояна прошла успешно

Если вы увидели такое сообщение (или не увидели никакого сообщения вообще) — установка трояна прошла успешно

На самом деле установка прошла очень даже успешно: на компьютер пользователя ставится ранее не встречавшийся нам троян-стилер, который ворует информацию о сохраненных учетных записях из браузеров Chrome, Edge, Firefox, Brave, CôcCôc (популярный во Вьетнаме браузер) и других. Мы окрестили его Trojan-PSW.Win64.Fobo.

Создателей трояна интересуют куки (cookies) и аккаунты Facebook, TikTok и Google, в особенности — бизнес-аккаунты. Вирус ворует логины и пароли, а обнаружив бизнес-учетку в одном из этих сервисов, пытается выяснить дополнительную информацию — например, сколько денег было потрачено на рекламу с этого аккаунта и каков его текущий баланс.

Согласно нашим данным, злоумышленники, стоящие за этой кампанией, целятся на международный рынок — «десктопный клиент» для ChatGPT уже был обнаружен и в Азии, и в Африке, и в Европе, и в Америке.

Как безопасно пользоваться ChatGPT

Для начала стоит отметить, что официального десктопного, мобильного или какого-либо еще клиента для ChatGPT нет — только веб-версия. Особенно забавно, что это отмечает и сам чат-бот, если попросить его написать блог-пост об этой мошеннической кампании.

Что сам ChatGPT думает об этой мошеннической кампании

Что сам ChatGPT думает об этой мошеннической кампании

Ну и, разумеется, никаким «предоплаченным аккаунтом» тоже и не пахнет — на данный момент из платных функций в OpenAI предусмотрели только месячную подписку с приоритетным доступом, в остальном доступ к ChatGPT полностью бесплатен. Так что зарегистрировать аккаунт в настоящем ChatGPT можно безвозмездно, то есть даром. Даже если ваш номер телефона не подходит из-за ограничений на регистрацию из некоторых стран, вы можете попросить заграничных друзей купить вам одноразовую симку или воспользоваться временным телефонным номером — он нужен лишь однажды, при первичной активации учетной записи. Получить временный номер телефона для приема SMS можно на многочисленных сервисах, которые легко найти в Google и Яндексе по запросу «одноразовый номер телефона».

Главное — не промахнуться мимо официального сайта ( ну и не переходить по ссылкам, а лучше вбить адрес в адресную строку самостоятельно.

А на компьютере стоит иметь хорошее защитное решение — ChatGPT только набирает популярность, и злоумышленники наверняка придумают еще не одну кампанию вокруг новомодного чат-бота. Быть внимательным, конечно, очень важно, но иногда даже самые внимательные и подготовленные люди попадаются на фишинг или убедительно сделанные мошеннические сайты, так что лучше перестраховаться. Все защитные решения «Лаборатории Касперского» детектируют Trojan-PSW.Win64.Fobo и не дают ему поселиться на вашем компьютере.

Что же касается десктопных клиентов для ChatGPT, то они наверняка появятся — если не официальные, то сторонние. Вот только лучше трижды подумать, прежде чем пользоваться сторонними клиентами для любых сервисов, и уж тут без антивируса точно не стоит обходиться.



Источник

ИИ в жизни

Kaspersky призывает к этичному использованию ИИ в кибербезопасности

admin 13.06.2025
admin


Стремительное развитие ИИ-систем и попытки их повсеместного внедрения вызывают и оптимизм, и опасения.  Искусственный интеллект способен помочь человеку в самых разных областях деятельности, и индустрия кибербезопасности знает об этом не понаслышке. Например, мы в «Лаборатории Касперского» применяем машинное обучение уже почти 20 лет и точно знаем, что без ИИ-систем в принципе невозможно защититься от гигантского количества существующих киберугроз. За это время мы идентифицировали и широкий спектр проблем, которые могут порождаться использованием ИИ — от обучения на некорректных данных и злонамеренных атак на ИИ-системы до применения ИИ в неэтичных целях.

Различные площадки и международные организации уже разработали общие принципы этичного ИИ (например,  вот рекомендации ЮНЕСКО), однако более конкретные руководства для индустрии кибербезопасности пока не стали общепринятыми.

Чтобы применять искусственный интеллект в кибербезопасности без негативных последствий, мы предлагаем индустрии принять Этические принципы ИИ (AI ethical principles), первую версию которых мы представляем на проходящем в эти дни в Киото саммите ООН Internet Governance Forum. Разумеется, принципы требуют обсуждения в индустриальном сообществе и уточнения, однако мы их придерживаемся уже сейчас.  Что же это за принципы? Вот краткая версия.

Прозрачность и объяснимость

Пользователь имеет право знать, что обеспечивающая его безопасность компания использует ИИ-системы. Знать, в каких целях и каким образом эти системы принимают решения. Поэтому мы обязуемся разрабатывать системы ИИ, работа которых интерпретируема и объяснима в максимально возможном объеме, а также внедрять необходимые предосторожности и защитные меры, чтобы ИИ-системы генерировали корректные результаты. При необходимости с кодом, техническими и бизнес-процессами «Лаборатории Касперского» можно ознакомиться посетив один из наших центров прозрачности.

Безопасность использования

Среди угроз, связанных с использованием ИИ систем, важное место занимают атаки, в которых кто-то манипулирует входными данными, чтобы спровоцировать ИИ на неверное решение. Поэтому мы считаем, что разработчики ИИ должны иметь своим приоритетом устойчивость и безопасность ИИ.

Для этого мы принимаем целый ряд практических мер, обеспечивающих высокое качество ИИ-систем: аудиты безопасности с фокусом на специфику ИИ и red-teaming, минимизацию использования сторонних наборов данных в обучении и целый ансамбль различных технологий для создания многослойной защиты. По возможности рекомендуем предпочитать ИИ, основанный на облачных технологиях (с применением необходимых предосторожностей) вместо локально установленных моделей.

Человеческий контроль

Хотя наши системы машинного обучения могут работать автономно, результаты и качество их работы постоянно отслеживаются специалистами. При необходимости вердикты автоматических систем корректируются, а сами системы адаптируются и модифицируются экспертами, чтобы противостоять принципиально новым или очень сложным киберугрозам. Мы комбинируем машинное обучение и человеческий опыт и обязуемся всегда сохранять этот человеческий элемент контроля в наших системах.

Конфиденциальность

Обучение ИИ невозможно без огромных массивов информации, при этом их часть может оказаться персональными данными. Этичный подход к обучению требует, чтобы права человека на защиту личных данных строго соблюдались. На практике в ИБ это может выражаться в целом ряде мер: ограничении типов и количества обрабатываемых данных, использовании псевдонимизации и анонимизации, обеспечении целостности данных, применении технических и организационных мер для защиты данных.

Применение в защитных целях

Технологии ИИ в сфере кибербезопасности должны применяться сугубо в защитных целях. Для нас это неотъемлемая часть нашей миссии по построению безопасного мира, в котором технологии завтрашнего дня улучшают жизнь всех и каждого из нас.

Открытость к диалогу

Мы считаем, что преодолеть препятствия, связанные с внедрением и использованием искусственного интеллекта в целях безопасности можно только сообща. Поэтому мы стремимся к диалогу со всеми заинтересованными сторонами, чтобы делиться передовым опытом этического использования ИИ.

Более подробно с нашими принципами этичного использования ИИ в безопасности можно ознакомиться вот здесь.



Источник

ИИ в жизни

Шпион на колесах: как автопроизводители собирают и перепродают информацию

admin 13.06.2025
admin


Угадайте с трех раз, что из вашего имущества активнее всего собирает персональную информацию для анализа и перепродажи?

Это автомобиль. По словам специалистов из Mozilla Foundation, с ним не могут сравниться ни смарт-часы, ни умные колонки, ни камеры видеонаблюдения, ни прочие гаджеты, проанализированные ранее проектом Privacy Not Included. В рамках этого проекта эксперты изучают пользовательские соглашения и политики конфиденциальности, чтобы понять, как устройство использует персональные данные владельца.

Так вот, впервые в истории проекта абсолютно все (25 из 25) проверенные бренды автомобилей получили «красную карточку» за неприемлемо широкий сбор персональной информации, непрозрачность ее использования, плохо документированные практики передачи и хранения данных (например, неизвестно, используется ли при этом шифрование) и возможность перепродажи собранной информации, о чем официально заявили 19 из 25 брендов. Вишенка на торте — практически полная невозможность автовладельца отказаться от сбора и передачи этих данных: лишь два бренда — Renault и Dacia — предоставляют владельцам право удалить собранные персональные данные. Правда, до такой возможности нужно еще додуматься.

Глубоко в недрах лицензионных соглашений, которые покупатели автомобилей принимают обычно «по умолчанию», не читая, зарыты совершенно дикие нарушения права на конфиденциальность: например, согласие владельца поделиться своими сексуальными предпочтениями и генетической информацией (Nissan), раскрытие информации по неформальным запросам правоохранительных органов (Hyundai), сбор данных об уровне стресса — и все это в довесок к еще 160 категориям данных, названных нарочито расплывчато, например «демографические сведения», «изображения», «платежная информация», «геолокация» и так далее.

Антирекордсменом рейтинга стала Tesla, получившая, в дополнение к остальным возможным штрафным баллам, специальную отметку: «Не заслуживающий доверия искусственный интеллект (ИИ)».

Как автомобили собирают информацию

Современный автомобиль буквально напичкан датчиками — начиная с сенсоров в двигателе и ходовой, показывающих, например, температуру двигателя, угол поворота руля или давление в шинах, и заканчивая куда более интересными, такими как видеокамеры по периметру машины и в салоне, микрофоны, датчики присутствия рук на руле…

Все они объединены в общую шину, поэтому головной компьютер автомобиля получает всю эту информацию централизованно. Плюс все современные автомобили оснащены GPS, модулем сотовой связи, Bluetooth и Wi-Fi. Наличие сотовой связи и GPS во многих странах продиктовано законом (для автоматического вызова помощи при ДТП), но производители охотно используют эту функцию для удобства водителя — и своего. Можно прокладывать маршрут на экране автомобиля, дистанционно диагностировать поломки, заблаговременно заводить машину… И, конечно, мостик «датчики и камеры → компьютер автомобиля → сотовая сеть» создает постоянный канал сбора информации: куда вы едете, где и сколько времени стоите на парковке, насколько резко крутите руль и газуете, пользуетесь ли ремнями безопасности и так далее.

Дополнительный сбор информации ведется с водительского смартфона при его подключении к бортовой системе автомобиля для совершения звонков, прослушивания музыки, навигации и прочих удобств. А уж если на смартфоне установлено мобильное приложение от автопроизводителя для управления функциями автомобиля, то данные можно тянуть со смартфона даже тогда, когда водитель вообще не в машине.

Ну а информацию о пассажирах помогают собирать камеры и микрофоны, точки доступа Wi-Fi и функции Bluetooth. С их помощью легко узнать, кто постоянно ездит в машине вместе с водителем, где и когда садится и выходит, каким смартфоном пользуется и так далее.

Зачем эта информация производителям автомобилей?

Чтобы заработать больше денег. Кроме анализа для «улучшения качества продуктов и услуг», данные могут быть перепроданы, а функции — перенастроены для большей выгоды производителя.

Продавцы страховок, например, покупают информацию о стиле вождения конкретного водителя, чтобы более точно прогнозировать вероятность ДТП и корректировать стоимость страховки. Уже в 2020 году этой неоднозначной функцией прямо на заводе были оснащены 62% автомобилей, а к 2025 году прогнозируется рост этого показателя до 91%.

Маркетинговые фирмы также охотно пользуются подобными данными и таргетируют рекламу, ориентируясь на доходы, семейное положение и социальный статус владельца авто.

Но и без перепродажи персональных данных существует множество других неприятных сценариев монетизации — например, включение и отключение дополнительных функций автомобиля по подписке, как неудачно попыталась сделать BMW с подогревом сидений, или продажа дорогих автомобилей в кредит с принудительной блокировкой машины при просрочке платежа.

Что еще не так со сбором данных и телематикой

Даже если вы считаете, что «от рекламы ничего плохого» и «да что интересного обо мне они узнают», учтите дополнительные риски, которым подвергаетесь вы и ваш автомобиль из-за описанных выше технологий.

Утечки данных. Производители активно собирают, вечно хранят и недостаточно защищают вашу информацию. Только недавно Toyota призналась в утечке данных за 10 лет — всего, собранного с владельцев миллионов автомобилей с облачными функциями. У Audi утекла информация о 3,3 млн покупателей. Другие производители авто тоже не раз становились жертвами утечек и кибератак. Если столько личных данных попадет в руки настоящих преступников и мошенников, а не просто маркетологов, — быть беде.

Угоны. Еще в 2014 году мы изучили возможность угона с помощью «облачных» функций. Начиная с 2015 года стало понятно, что удаленный контроль автомобиля злоумышленниками — не фантастика, а суровая реальность. Криминальные угоны в последние годы чаще эксплуатируют дистанционную ретрансляцию сигналов с легитимного брелока, но прошлогодняя эпидемия «TikTok-угонов» KIA и Hyundai базировалась на смарт-функциях автомобиля и требовала от угонщика всего лишь вставить флешку в USB-порт. В конце этого поста вы можете увидеть пример такого взлома, причем отнюдь не KIA, на видео.

Слежка. Когда автомобиль принадлежит не вам, а родственнику или работодателю, владелец может отслеживать положение авто, устанавливать границы района его использования, лимиты скорости, разрешенное время вождения и даже громкость аудиосистемы! Такие функции предлагают многие автобренды, например Volkswagen и BMW. Как мы знаем из наших исследований stalkerware и недавних скандалов с AirTag-слежкой, подобные возможности просто обречены на злоупотребление.

Как снизить риски?

Из-за масштабности проблемы простых решений у нее нет, поэтому мы предложим возможные варианты — по убыванию радикальности:

  1. Ходите пешком или ездите на велосипеде.
  2. Купите старую модель авто. Почти все машины до 2012 года выпуска имеют очень ограниченные возможности по сбору и передаче данных.
  3. Купите машину с минимальным набором умных сенсоров и/или без модуля связи. У некоторых производителей базовые комплектации урезаны в возможностях, но это требует детальной проверки и чтения инструкции по эксплуатации. Отсутствие собственного модуля связи (GSM/3G/4G) в автомобиле — довольно надежный признак его ограниченных возможностей. Учтите, что все больше автомобилей обладают смарт-функциями даже в базовой комплектации (эта дорога уже проторена Smart TV — деньги добирают сбором и продажей данных).
  4. Не устанавливайте мобильное приложение автомобиля на свой телефон. Конечно, запуск со смартфона или дистанционный прогрев довольно привлекательны, но нужно ли платить за них еще и глубоко личной информацией в дополнение к деньгам — очень спорный вопрос.
  5. Не активируйте на связке автомобиля и телефона функции CarPlay и Android Auto. При активации этих функций производитель смартфонной ОС вытаскивает всю мыслимую информацию с автомобиля, а автомобиль — с телефона.
  6. Не подключайте машину к своему телефону по Bluetooth и Wi-Fi. При этом снова теряется часть функциональности, зато автомобиль не отправит информацию на завод через телефон, а также не скачает с телефона записную книжку и другие персональные данные. Можно пойти на полумеры — установить связь по Bluetooth только для протоколов «гарнитура» и «наушники»: вы сможете воспроизводить музыку с телефона через автомобильную акустику, но другие виды передачи данных (та же записная книжка) будут недоступны.
  7. Бонусный совет, не исключающий предыдущих, — Mozilla предлагает подписать коллективное обращение к производителям автомобилей, призывающее их сменить бизнес-модель и перестать зарабатывать деньги на шпионаже за покупателями.

Пример взлома автомобиля на базе смарт-функций



Источник

ИИ в жизни

Новогодние обещания: как сделать 2024 год безопасным

admin 13.06.2025
admin


Бурное развитие ИИ, международная напряженность и распространение «умных» технологий вроде Интернета вещей делают наступающий год особенно сложным в плане кибербезопасности. Каждый из нас в той или иной мере столкнется с этим, поэтому мы по традиции советуем всем читателям дать себе несколько обещаний, которые сделают ваш 2024-й спокойней.

Защитить свои финансы

Электронная коммерция и финансовые технологии продолжают шагать по планете: удачные технологии внедряются в новых регионах. Гораздо шире стали применяться мгновенные электронные платежи между физическими лицами. А у преступников появляются новые способы выманить ваши деньги. Это не только мошенничество с системами моментальных денежных переводов, но и усовершенствованные технологии воровства платежных данных на сайтах интернет-магазинов и электронной коммерции. Последние поколения веб-скиммеров, устанавливаемых хакерами на сайтах легитимных интернет-магазинов, почти невозможно заметить за работой, и жертва узнаёт о том, что ее данные украли, только после того, как с карты прошло несанкционированное списание.

Что делать?

  • Подключите банковские карты к платежным системам от крупных игроков финансового рынка, например SberPay, Yandex Pay или Tinkoff Pay. Это не только удобно, но и снижает вероятность кражи данных при расплате в магазине.
  • Используйте подобные системы для оплаты на веб-сайтах там, где это доступно. Не надо лишний раз вводить реквизиты банковской карты на новых сайтах.
  • Защитите смартфоны и компьютеры системой комплексной безопасности — такой как Kaspersky Premium. Это поможет уберечь ваши деньги, например, от новой неприятной атаки, в которой реквизиты получателя подменяются в момент совершения мгновенного денежного перевода в банковском приложении.
  • Пользуйтесь виртуальными или одноразовыми картами для онлайн-платежей, если ваш банк поддерживает такую возможность. Если виртуальную карту можно быстро перевыпустить в приложении, меняйте ее на регулярной основе, например раз в месяц. Или используйте специальные сервисы для «маскировки» карт, создающие одноразовые платежные реквизиты для каждого сеанса оплаты, — их множество для разных стран и платежных систем.

Не верить своим глазам

Генеративный искусственный интеллект доминировал в новостях весь 2023 год, уже успел оказать существенное влияние на рынок труда и, увы, неоднократно применялся в недобрых целях. Создание фальшивых текстов, фото и видео, ранее требовавшее трудоемкой и квалифицированной работы, теперь осуществляется неподготовленными людьми за считаные минуты. И это уже заметно повлияло как минимум на две области кибербезопасности.

Во-первых, фальшивые изображения, аудио и видео в новостях и соцмедиа. Сгенерированные изображения применялись в 2023 году в пропагандистских целях во время геополитических конфликтов в экс-СССР и на Ближнем Востоке, они же с успехом используются мошенниками для разного рода фальшивых сборов пожертвований, а в конце 2023 года наши эксперты обнаружили массированные «инвестиционные» кампании, в которых использование дипфейков вышло на новый уровень: теперь вложить деньги в мошеннические проекты предлагают якобы известные бизнесмены и главы государств в новостных репортажах и статьях на популярных ресурсах — естественно, поддельных.

Во-вторых, с ИИ фишинговые письма, сообщения в соцсетях и мошеннические веб-сайты стало делать гораздо проще. Многие годы они славились корявым языком и многочисленными опечатками, потому что у мошенников не хватало времени качественно писать и вычитывать их. Но с помощью WormGPT и других оптимизированных для хакеров языковых моделей злоумышленники теперь могут создавать куда более убедительные и разнообразные приманки в промышленных масштабах. Более того, эксперты опасаются, что языки, на которых убедительный фишинг раньше встречался редко, начнут активно использоваться мошенниками с помощью тех же многоязычных ИИ-моделей.

Что делать?

  • Относитесь с огромным скепсисом к любому эмоциональному контенту в соцсетях — особенно от людей, которые вам лично незнакомы. Заведите привычку всегда проверять важную информацию на авторитетных новостных и экспертных сайтах.
  • Не переводите деньги без тщательной проверки получателя в разного рода благотворительных сборах, марафонах и так далее. Сгенерировать душещипательную историю и трогательные изображения стало просто, как никогда.
  • Установите защиту от фишинга и скама на все свои устройства и включите все опции для проверки ссылок, веб-сайтов, писем и вложений. Это снизит риски перехода по фишинговой ссылке или на мошеннический сайт.
  • Активируйте защиту от рекламных баннеров — такая функция есть как в Kaspersky Plus и Kaspersky Premium, так и в ряде браузеров. Вредоносная реклама — еще один тренд 2023–2024 годов.

Некоторые специалисты ожидают появления в 2024 году систем анализа и маркировки контента, сгенерированного ИИ. Но не стоит ожидать, что они будут быстро и повсеместно внедрены и окажутся стопроцентно надежны. Если подобные решения и появятся, все равно перепроверяйте информацию в доверенных источниках.

Не верить своим ушам

Очень качественная генерация поддельных голосов при помощи ИИ уже активно применяется в мошеннических схемах. Вам может позвонить «начальник», «член семьи», «коллега» или другой человек с хорошо знакомым голосом и попросить помочь в срочном деле, выручить в трудной ситуации или уделить внимание другому человеку, который свяжется с вами по важному делу в ближайшее время. В первую очередь подобные схемы призваны заставить жертву добровольно перевести деньги преступникам. Но возможны и более сложные варианты — например, так атакуют сотрудников компаний, чтобы выманить у них пароли доступа к корпоративной сети.

Что делать?

  • Не впадайте в панику и проверяйте любые неожиданные или тревожные звонки. Если звонит якобы хорошо знакомый человек, задайте ему вопрос, на который сможет ответить только он. Если звонит коллега, но его вопрос странен — например, он просит вас переслать или продиктовать пароль, отправить платеж или сделать еще что-то необычное — свяжитесь с другими коллегами или начальством, чтобы перепроверить ситуацию.
  • Используйте специальные приложения — определители номера, чтобы блокировать спамерские и мошеннические звонки. Некоторые из таких приложений работают не только с обычными телефонными вызовами, но и со звонками через мессенджеры, например WhatsApp. К ним относится приложение Kaspersky Who Calls, которое можно установить отдельно и бесплатно либо же получить премиум-версию с расширенными возможностями в подписке Kaspersky Premium.

Покупать только безопасные смарт-устройства «Интернета вещей» (IoT)

Плохо защищенные IoT-устройства создают своим владельцам целый ряд проблем: роботы-пылесосы шпионят за своими хозяевами, «умные» кормушки для домашних животных могут устроить вашему питомцу незапланированный праздник живота или суровую голодовку, телеприставки воруют аккаунты и создают в вашей домашней сети мошеннические прокси, а видеоняни и домашние камеры безопасности превращают ваш дом в площадку реалити-шоу без вашего ведома.

Что может улучшиться в 2024 году? Появление регуляторных требований к производителям IoT-устройств. Так, в Великобритании запретят продавать устройства со стандартными логинами-паролями вроде «admin/admin» и обяжут производителей заранее сообщать, на протяжении какого срока будут выходить обновления прошивок для того или иного устройства. В США разрабатывают «маркировку безопасности», которая позволит еще до покупки понять, чего ожидать от «умного» устройства в плане безопасности.

Что делать?

  • Изучить, есть ли подобные инициативы в вашей стране, и пользоваться ими по максимуму, покупая только безопасные IoT-устройства с долгим заявленным сроком поддержки. Вероятно, что производители, коль скоро их обязали позаботиться о безопасности смарт-девайсов локально, внесут соответствующие изменения и в продукты на глобальном рынке. Тогда можно будет выбрать себе подходящий продукт, пользуясь, например, американской «маркировкой безопасности», и купить его, даже не находясь в США.
  • Вдумчиво настроить все смарт-устройства, пользуясь нашими подробными советами по созданию умного дома и настройке его безопасности.

Позаботиться о близких

Мошеннические схемы, связанные с подделками текстов, изображений и голосов, могут быть крайне эффективны с пожилыми людьми, детьми, а также теми, кто мало интересуется техникой. Подумайте о своих близких, друзьях, хорошо знакомых коллегах — если кто-то из них может быть жертвой описанных выше схем обмана, не поленитесь рассказать им об этом или дать ссылку на наш блог.

Что делать?

  • Не ограничиваться пересказом нашего блога, а подыскать для близких подходящие по возрасту и темпераменту уроки кибербезопасности.
  • Убедиться в том, что все компьютеры и телефоны ваших близких имеют полноценную защиту. С Kaspersky Premium вы можете защитить столько устройств, сколько понадобится, на любых платформах — Windows, macOS, Android и iOS.

Перед тем как попрощаться и пожелать вам хорошего и спокойного 2024 года, признаемся шепотом, что и прошлогодние обещания для многих по-прежнему актуальны: переход на беспарольные системы развивается неплохими темпами, и им вполне можно заняться и в новом году, а базовая кибергигиена стала еще важнее. И да, чуть не забыли: желаем вам счастливого и безопасного 2024 года!



Источник

ИИ в жизни

Самое важное с Mobile World Congress 2019

admin 12.06.2025
admin


Что случается в Вегасе, остается в Вегасе, а вот то, что происходит на Mobile World Congress в Барселоне, редко остается в пределах Mobile World Congress. Наоборот, сложно вообразить человека, на жизнь которого ни малейшего влияния не оказывали бы новые концепции и технологии, которые анонсируют на одном из крупнейших мероприятий в области телекоммуникаций и пользовательской электроники. Поэтому, даже если смартфоны и прочее оборудование для связи вам не слишком интересны, к происходящему на MWC все равно стоит присмотреться. Давайте кратко поговорим о главных трендах, обсуждавшихся на конференции в этом году.

Наконец-то 5G

Первое и самое главное: 5G наконец-то превращается из концепции в реальность. В последние годы нам часто обещали приход 5G, однако, похоже, именно в 2019 году по всему миру начнут массово разворачивать сети нового поколения.

На MWC19 оба ведущих изготовителя чипов для мобильных устройств, Qualcomm и Intel, полностью посвятили свои стенды стандарту пятого поколения. Все основные производители смартфонов также продемонстрировали модели с поддержкой 5G. В общем, есть немаленький шанс, что ваш следующий смартфон будет поддерживать 5G и что вы будете пользоваться им в настоящей 5G-сети.

Mobile World Congress 2019: сети 5G наконец-то готовы к развертыванию

Как мы уже обсуждали в этой статье, основное преимущество 5G — вовсе не скорость передачи данных. Она, конечно, увеличится, но сети 5G разрабатывают в первую очередь ради роста пропускной способности. Устройств, которые постоянно подключены к Интернету, уже насчитываются миллиарды, и эта цифра будет быстро возрастать — ведь «умные» технологии сегодня популярны как никогда. Это, собственно, приводит нас к разговору об Интернете вещей, уязвимость которого на MWC19 продемонстрировали в очередной раз.

Ультразвуковые сканеры отпечатков пальцев

Qualcomm представила ультразвуковые сканеры отпечатков пальцев еще четыре года назад — на Mobile World Congress 2015. Тогда эта технология находилась на стадии прототипа, но в этом году она наконец-то была встроена в реальные продукты — ультразвуковыми датчиками были оборудованы многие смартфоны, показанные на MWC19. Справедливости ради стоит сказать, что некоторые из них были представлены и даже начали продаваться еще за несколько месяцев до выставки, но в 2019 году их, похоже, станет гораздо больше.

По сравнению с обычными емкостными датчиками ультразвуковые имеют несколько преимуществ. Во-первых, они бесконтактные, поэтому их можно спрятать под дисплеем смартфона. Когда пользователю нужно будет приложить палец, смартфон покажет, куда именно.

Многие смартфоны, представленные на MWC19, были оборудованы ультразвуковыми сканерами отпечатков пальцев

Во-вторых, ультразвуковые сенсоры надежнее. Они считывают трехмерную структуру объектов, а потому могут отличить копию отпечатка от настоящего пальца. Более того, они работают так быстро, что считывают отпечатки в реальном времени. Благодаря этому они не перепутают живой палец с мертвым или распечатанным на 3D-принтере – с помощью того же датчика можно следить за сердечным ритмом. Если вас тоже мучили шутками вроде «А что если кто-то отрежет твой палец, чтобы разблокировать телефон?» — теперь вы знаете, как ответить.

Искусственный интеллект

Тему ИИ сейчас обсуждают везде, и Mobile World Congress не стал исключением. Почти в каждом выступлении и на каждом стенде можно было услышать что-то об искусственном интеллекте. В том числе даже на стенде Oral-B, где представили новую зубную щетку Genius X, также использующую эту технологию.

Стенд Oral-B на Mobile World Congress 2019 с зубной щеткой Genius X, снабженной искусственным интеллектом

Если вынести за скобки нездоровый ажиотаж, это означает, что многие компании по всему миру следуют примеру Amazon, Google и других сверхгигантов, работающих с данными. Эти компании всеми силами стремятся извлечь как можно большую выгоду из огромных объемов информации, которые они ежедневно собирают. Для этого они планируют использовать искусственный интеллект — то есть, на самом деле, машинное обучение, которое обычно и имеют в виду люди, говоря об искусственном интеллекте.

Так уж вышло, что по ряду причин машинное обучение особенно полезно при борьбе с вредоносными программами. «Лаборатория Касперского» начала применять эту технологию одной из первых и постепенно накопила обширный опыт в этой сфере. Поэтому мы хорошо знаем, что у искусственного интеллекта, как и у любой другой технологии, есть и достоинства, и недостатки.

Однако ИИ отличает от многих других технологий то, что связанные с ним проблемы могут быть неявными и сложными для понимания. Более того, результаты работы систем на базе ИИ бывают непонятны не только пользователям таких систем, но и самим разработчикам. Поэтому важно помнить о недостатках ИИ и весьма осторожно применять опирающиеся на него технологии. Ошибки здесь могут дорого обойтись и отдельным людям, и обществу в целом.



Источник

ИИ в жизни

Мой дом — моя крепость: охранные технологии для дома

admin 12.06.2025
admin


Дом — это ваш личный островок безопасности, где можно отдохнуть и расслабиться. Однако если его не защищать, то в один не очень прекрасный момент он может превратиться в общественное место. Мы составили для вас подборку трендов и новинок в сфере охранных технологий. Рассказываем, чем они привлекательны и о чем не стоит забывать, если вы уже пользуетесь одной из таких систем или собираетесь ее приобрести.

Охранные системы «Сделай сам»

Аналитики предсказывают, что в ближайшие годы все больше людей будут сами устанавливать домашнюю охранную систему и следить за жилищем без помощи профессионалов. Уже сейчас на рынке представлено множество систем, монтаж и эксплуатация которых не требуют особых знаний и навыков. Они позволяют существенно сэкономить на установке и не платить за подключение к централизованному пульту охраны, поэтому пользуются спросом. Однако, если вы задумываетесь о приобретении системы типа «сделай сам», стоит помнить и о неудобствах, с которыми придется столкнуться.

Во-первых, сигнализация может сработать в любой момент, вне зависимости от времени суток. Представьте: вы ночуете в гостях или, например, в отеле на море, и тут вам приходит сообщение от охранной системы. Что вы сделаете? Посреди ночи броситесь изучать записи с камеры, чтобы понять, не была ли тревога ложной? Проигнорируете сообщение? Отложите до утра? А если в ваш дом действительно вторглись?

Во-вторых, следует помнить о возможных проблемах со связью. Представьте, что у вашего телефона некстати села батарейка или же вы оказались вне зоны действия сети где-нибудь в лесу. И именно в этот момент в ваш дом проникли грабители. Охранная система пытается вас предупредить, но вы недоступны, и ее сообщение не доходит. Конечно, чтобы это случилось, нужно совпадение особых обстоятельств, но так ли оно невозможно?

В-третьих, если вы берете на себя полную ответственность за безопасность своего дома, то и за безопасностью самой системы тоже никто, кроме вас, следить не будет. Между тем, время от времени в любых технологиях, в том числе и в охранных, находят уязвимости, которыми могут воспользоваться грабители.

Например, в 2017 году исследователь Илья Шнайдман обнаружил баги в системе типа «сделай сам» iSmartAlarm, которые позволяли преступнику захватить контроль над любой сигнализацией, и включать и отключать ее на свое усмотрение. А недавно эксперты «Лаборатории Касперского» провели успешный эксперимент по взлому умного дома Fibaro. Им удалось не только отключить охранную систему и камеры видеонаблюдения, но и дистанционно открыть входную дверь, оборудованную умным замком.

Эксперты

Домашняя армия умных устройств

Самостоятельно присматривать за своим жилищем позволяют и отдельные компоненты умного дома, не входящие в охранные системы. Так, с помощью умного дверного звонка можно взглянуть на гостя и поговорить с ним, даже если вы находитесь на другом конце света.

Умному замку хозяин может удаленно дать команду впустить посетителя. Или открывать двери в определенное время, когда приходят определенные гости. Это позволит вам, скажем, не дожидаться уборщицу, которой вы доверяете. А еще с помощью умного замка можно в любой момент проверить, точно ли вы заперли входную дверь, когда уходили.

Умные лампы могут резко включаться, когда кто-то забрел во двор в ваше отсутствие. Иногда этого хватает, чтобы отпугнуть неопытных воров. Кроме того, многие производители предлагают «отпускной режим» освещения — когда во время отъезда лампочки имитируют ваше присутствие, включаясь и выключаясь в определенное время.

Однако, как и все сравнительно новые технологии, умные устройства уязвимы. Их могут взломать и использовать против вас, не говоря уже о том, что чем сложнее техника, тем больше шансов, что она заглючит по какой-нибудь неочевидной причине.

Добавить интеллекта

Еще один тренд в сфере безопасности жилища — искусственный интеллект. В отличие от обычных умных устройств, системы с ИИ способны к самообучению. В охранных технологиях их натаскивают отличать реальную угрозу от мнимой, например проникшего в дом вора от вашего ребенка, решившего войти через окно. Как следствие, сигнализация должна срабатывать реже и по делу, а охранники и пользователи — чаще прислушиваться к ней.

Чтобы добиться такого результата, разработчики используют несколько технологий. Распознавание лиц позволяет электронному сторожу запоминать жильцов дома и постоянных гостей, например ваших друзей и родственников. С помощью геозон система определяет, когда кто-то подходит к дому слишком близко или, скажем, слишком долго бродит возле ворот.

Конечно, над точностью решений, которые принимает искусственный интеллект, еще предстоит поработать. Не говоря уже о том, что электронный разум можно обмануть. Так что отстранять человека от мониторинга охранных систем пока рановато.

Роботы, которые нас берегут

Большинство описанных выше систем и устройств — неважно, умные они или нет — не могут свободно перемещаться в пространстве, а значит, теоретически у них есть слепые зоны. С этой точки зрения интересную разработку представила компания Sunflower Labs.

По периметру участка устанавливаются садовые светильники, оборудованные микрофонами и датчиками движения и вибраций. Заметив что-то подозрительное, они уведомляют хозяина, который через мобильное приложение вызывает дрон c камерой. Беспилотник сам прокладывает маршрут до нужной точки и передает владельцу видео с камеры в реальном времени. Закончив разведку, он возвращается на базу для зарядки и оттуда отправляет запись в облачное хранилище.

К этой новинке тоже можно задать множество вопросов: выдержат ли дроны непогоду? Может ли злоумышленник сбить беспилотник, и как в таком случае система защитит пользователя? Насколько легко перехватить управление дроном? Однако важно то, что разработчики ищут способы сделать охрану жилища удобнее и надежнее.

Интернет Вещей пока сложно назвать эталоном информационной безопасности

Курс на автономность

Как видите, охранные системы и другие защитные технологии для дома становятся все более автономными и гибкими и вместе с тем — более доступными. Это хорошо: в перспективе больше людей смогут следить за безопасностью своего жилища в режиме реального времени и оперативно реагировать на сигналы тревоги.

С другой стороны, переход на независимые охранные системы и умные решения требует от пользователей большей подкованности в сфере информационной безопасности. Чтобы ваша защита не стала оружием в руках злоумышленника, вам придется как минимум следить за новостями об уязвимостях и своевременно устанавливать обновления.



Источник

ИИ в жизни

Слава нашим новым ИИ-повелителям

admin 11.06.2025
admin


Дисклеймер: мнение автора не обязательно совпадает с официальной позицией «Лаборатории Касперского».

Искусственный интеллект однозначно стал главной темой мира технологий в 2022 году. Скажу откровенно: я всегда считал неоправданным ажиотаж вокруг применения ИИ в кибербезопасности. Машинное обучение может приносить реальную пользу, но в мире информационной безопасности упоминания ИИ встречались лишь в продуктовых презентациях, вызывающих острое чувство неловкости. Поэтому фразы вроде «решение на базе ИИ» выглядели для меня как элегантный способ сказать: «У нас нет ни базы знаний, ни телеметрии, но мы разработали пару эвристических алгоритмов». И я по-прежнему убежден, что более чем в 95% случаев в самих решениях собственно искусственного интеллекта почти и не было. Но, пока маркетологи клеили стикеры «ИИ» на любой продукт, в работе которого использовался метод k-средних, технологии настоящего искусственного интеллекта продвигались вперед.

Эту истину я осознал, когда впервые попробовал в деле DALL-E 2 (и вскоре после этого — Midjourney). Оба проекта генерируют изображения по текстовым описаниям и уже вызвали большой переполох в мире искусства.

Это изображение сгенерировано нейросетью Midjourney по запросу «Слава нашим новым ИИ-повелителям» (оригинальный запрос на английском языке: «All hail our new AI overlords»)

Затем, в декабре прошлого года, весь мир покорил ChatGPT. Говоря простыми словами, это чат-бот. Полагаю, многие уже попробовали его в действии, а если нет — настоятельно рекомендую это сделать (главное — не перепутать его с вирусом). ChatGPT значительно превосходит предыдущие подобные проекты. Стоит поговорить с ним, чтобы на собственном опыте убедиться, что будущее наступает.

ChatGPT говорит сам за себя

ChatGPT говорит сам за себя

Как говорил сэр Артур Кларк, «любая достаточно развитая технология неотличима от магии». Мне нравится ощущение чуда, которым технологии порой наполняют нашу жизнь. Но, к сожалению, иногда оно мешает нам осознать, чем грозит очередной научный прорыв и где проходят границы возможного. Поэтому я считаю, что стоит потратить время и хорошенько разобраться в плюсах, минусах и подводных камнях новых технологий. Этим мы и займемся.

Языковые модели

Давайте начнем с ChatGPT — это на данный момент крупнейшая (из доступных широкой публике) языковая модель. Как и в случае со многими другими масштабными проектами машинного обучения, никто до конца не знает, как она работает (даже ее создатели OpenAI). То есть мы знаем, как модель была создана, но она слишком сложна, чтобы понять ее в строгом смысле этого слова. ChatGPT содержит более 175 миллиардов параметров. Чтобы осознать, о чем речь, представьте гигантскую машину со 175 миллиардами ручек, которые можно вращать под разными углами. Текстовый запрос, отправленный в ChatGPT, ставит каждую из этих ручек в то или иное положение. И машина, в зависимости от этих положений, выдает некий результат — в нашем случае текст. Кроме того, в систему добавлен элемент случайности, чтобы на один и тот же вопрос не всегда получался один и тот же ответ (но это можно скорректировать).

Поэтому мы воспринимаем подобные модели как черные ящики: никто не понимает, что происходит внутри них. Вероятно, даже если человек потратит на изучение такой машины всю свою жизнь, он так и не сможет полностью постичь предназначение хотя бы одной из ее ручек (не говоря уже обо всех). Однако мы знаем, что делает машина, потому что знаем, как ее создавали.

На этапе обучения языковой модели, которая по сути является алгоритмом для обработки текста, «скормили» огромный объем текстовых данных: всю Википедию, материалы, собранные со множества веб-сайтов, книги и так далее. Это позволило создать статистическую модель. Такая модель умеет определять вероятность следования одного слова за другим. Если я скажу «делу — время, потехе — …», вы можете догадаться с высокой степенью уверенности, что я закончу фразу словом «час» — так же и алгоритм. Это сжатое объяснение того, как работает языковая модель. Основываясь на «прочитанном», она с одинаковой легкостью и заканчивает за вас предложение, и предлагает наиболее вероятную последовательность слов в качестве ответа на заданный вопрос. В случае с ChatGPT процесс обучения включал в себя еще один этап более тонкой настройки — с ИИ беседовали реальные люди и отмечали ответы, которые казались им спорными (неточными, предвзятыми, расистскими и тому подобное). На основании их замечаний ChatGPT учился выдавать более корректные ответы.

ИИ успешно заканчивает известную пословицу

ИИ успешно заканчивает известную пословицу

Если понятие искусственного интеллекта не укладывается у вас в голове, расценивайте это как что-то вроде «математики» или «статистики»: цель этих моделей — прогнозирование. В диалоге с ChatGPT вам может начать казаться, что бот что-то знает, ведь он выдает подходящие по контексту и соответствующие предметной области ответы на впервые заданные вопросы. Но важно понимать, что искусственный интеллект даже не осознает значений слов, а лишь генерирует новый текст, который ему кажется естественным продолжением текущей «беседы». Это объясняет, почему ChatGPT может вести сложные философские дискуссии, но часто не справляется с базовой арифметикой: результат вычисления предсказать труднее, чем следующее слово в предложении.

К тому же у ChatGPT нет памяти: его обучение закончилось в 2021 году, и с тех пор модель не развивается. «Обновлениями» становятся новые модели (например, выход GPT-4 запланирован на 2024 год), обученные на свежих данных. На самом деле ChatGPT даже не помнит содержание беседы, которую вы с ним ведете: вся история текущего чата каждый раз обрабатывается заново вместе с новыми сообщениями, чтобы диалог выглядел более естественно.

Можно ли это назвать «интеллектом» (и сильно ли он отличается от человеческого интеллекта), станет предметом горячих философских споров в ближайшие годы.

Диффузионные модели

В основе таких инструментов для генерирования изображений, как Midjourney и DALL-E, лежат модели машинного обучения другого типа. Процедура их обучения, конечно, направлена на генерирование не текста, а изображений (по сути — наборов пикселей). Для создания изображения по текстовому описанию ИИ необходимо два навыка. Первый из них интуитивно очевиден — модели нужно научиться связывать слова с подходящими визуальными образами, поэтому на этапе обучения ей «скармливают» множество изображений с подписями. Как и в случае с ChatGPT, в итоге получается гигантская, непостижимая машина, которая очень хорошо умеет сопоставлять изображения с текстами. Машина понятия не имеет, как выглядит Брэд Питт, но, если ей показали достаточное количество его фотографий, она будет знать, что их объединяет. И если кто-то загрузит в нее новое фото Брэда Питта, модель его узнает и сообщит «да, это снова он».

Второй навык, который впечатляет меня больше, — это способность улучшать изображения. Для этого используется «диффузионная модель», обученная на четких изображениях, которые постепенно «зашумляются», пока не становятся нераспознаваемыми. Это позволяет обучить модель соотносить размытое изображение низкого качества с его аналогом в высоком разрешении — опять же на статистическом уровне — и воссоздавать более качественные изображения из нечетких оригиналов. На базе ИИ даже созданы специальные программы для удаления шумов и увеличения разрешения старых фотографий.

Пример снижения качества изображения (моей проверенной временем аватарки) для обучения диффузионной модели

Пример снижения качества изображения (моей проверенной временем аватарки) для обучения диффузионной модели

Вместе описанные навыки позволяют модели синтезировать изображения. Она начинает со случайного шума и постепенно «улучшает» его, параллельно снабжая характеристиками, заданными в запросе пользователя (гораздо более подробное описание внутренних механизмов DALL-E можно найти здесь).

Споры не о том

Появление обсуждаемых в этой статье инструментов вызвало широкий общественный резонанс: не все приняли их с радостью. И это понятно, внезапное вторжение искусственного интеллекта в нашу жизнь может вызывать справедливые опасения. Однако, как мне кажется, большая часть дискуссий концентрируется сейчас совсем не на том, что по-настоящему важно. Но давайте сначала обсудим их, а потом перейдем к вопросам, которые, на мой взгляд, действительно имеют значение, когда речь идет об искусственном интеллекте.

DALL-E и Midjourney крадут у художников

Несколько раз я видел, что эти инструменты на базе ИИ описывают как программы, которые собирают «мозаику» из увиденных изображений, после чего применяют к ней фильтры, позволяющие имитировать стиль конкретного художника. Любой, кто заявляет такое, либо не разбирается в технических подробностях того, как создаются подобные модели, либо злонамеренно пытается ввести людей в заблуждение.

Как говорилось выше, модель совершенно неспособна извлекать ни изображения, ни даже простые формы из набора визуальных данных, на которых обучается. Все, что она может извлечь, — это их математические свойства.

То, с чего, по мнению людей, начинается работа DALL-E (слева), и то, с чего она начинается на самом деле (справа)

То, с чего, по мнению людей, начинается работа DALL-E (слева), и то, с чего она начинается на самом деле (справа)

Да, на этапе обучения использовалось множество работ, защищенных авторским правом, — без явного согласия их создателей, и это, вероятно, можно обсуждать. Хотя стоит отметить, что человеческие живописцы учатся точно так же: студенты-художники копируют работы известных мастеров и черпают вдохновение в произведениях искусства, которые видят. А что такое вдохновение, как не способность ухватить суть произведения искусства в сочетании со стремлением открыть его заново?

Революционность DALL-E и Midjourney в том, что теоретически они могут вдохновляться картинами, созданными за всю историю человечества (и, вероятно, всеми, которые они же сами создают в настоящее время), но это отличие относится к масштабу, а не к сути процесса.

Убедительное свидетельство того, что Вольфганг Амадей Моцарт воровал у других авторов, пока обучался музыке

Убедительное свидетельство того, что Вольфганг Амадей Моцарт воровал у других авторов, пока обучался музыке

ИИ слишком облегчает работу художника

В этом случае критики обычно предполагают, что искусство должно быть тяжелой работой. Меня это всегда удивляло: ведь человек, который смотрит на произведение искусства, чаще всего не имеет представления о том, как много (или мало) усилий потребовалось для его создания. Этот спор не нов: с момента появления Photoshop прошло уже много лет, а некоторые все еще продолжают утверждать, что цифровое искусство нельзя считать настоящим. Сторонники противоположной позиции на это нередко возражают, что пользоваться Photoshop вообще-то тоже нужно уметь, но я считаю, что и они упускают главное. Много ли умения потребовалось Роберту Раушенбергу, чтобы рисовать белой краской на белом холсте? А сколько нужно практиковаться в игре на рояле, чтобы исполнить знаменитое произведение Джона Кейджа 4′33″?

Даже если принять умение за необходимый атрибут искусства, где провести черту? Сколько именно труда нужно вложить, чтобы искусство можно было назвать настоящим? Когда была изобретена фотография, Шарль Бодлер назвал ее «прибежищем неудавшихся художников, малоодаренных или слишком ленивых недоучек» и был не одинок в своей оценке. И оказался неправ.

ChatGPT помогает киберпреступникам

Некоторые СМИ стараются извлечь максимальную выгоду из ажиотажа вокруг ChatGPT и привлекают к себе внимание, вбрасывая скандальные инфоповоды. Как мы уже рассказывали, ChatGPT может помочь киберпреступникам написать фишинговое письмо или вредоносный код, однако и с тем и с другим преступники неплохо справляются и самостоятельно. Те, кто знает о существовании GitHub, понимают, что доступ к исходникам вредоносного ПО не является проблемой для злоумышленников, а беспокоиться об ускорении его разработки стоило еще после релиза Copilot.

Я понимаю, что глупо разоблачать шумиху в СМИ, вызванную не справедливыми опасениями, а погоней за мелочной выгодой. Но факт остается фактом: искусственный интеллект окажет огромное влияние на нашу жизнь, и существуют реальные проблемы, требующие решения. А споры вокруг надуманных вопросов только мешают их обсуждению.

Назад пути нет

Что бы вы ни думали об инструментах на базе ИИ, увидевших свет в 2022 году, знайте — их станет еще больше. Если вы считаете, что кто-то задумается о регулировании этой сферы до того, как станет поздно, то у меня для вас плохие новости: на данный момент политическим ответом на происходящее стало спонсирование исследований в области ИИ. Никто во власти не заинтересован в замедлении разработок.

Четвертая промышленная революция

Искусственный интеллект обеспечит (и, вероятно, уже обеспечил) повышение производительности. Насколько оно масштабно и как будет идти дальше — пока трудно предсказать. Если вы пишете тексты на основе других текстов, пора начинать волноваться. То же касается графических дизайнеров-фрилансеров: всегда будут клиенты, которым важна «частичка души автора», но большинство выберут более дешевый вариант. И это еще не все: реверс-инженерам, юристам, преподавателям, врачам и многим другим стоит ожидать серьезных изменений в своих профессиях.

Помните, что ChatGPT — чат-бот общего назначения. В ближайшие годы появятся специализированные модели, которые будут выполнять конкретные задачи намного лучше. Другими словами, ChatGPT не отнимет вашу работу сейчас, но высока вероятность, что в ближайшие пять лет появится новый ИИ-продукт, который сможет сделать это. И почти любая работа будет состоять в контролировании ИИ и корректировании результатов его работы.

Возможно, ИИ дойдет до предела возможностей и не будет больше развиваться — но после многих ошибок я выучил урок и больше не буду ставить против индустрии. Изменит ли искусственный интеллект мир так же сильно, как это сделал паровой двигатель? Будем надеяться, что нет, потому что резкие изменения в производственной сфере влекут за собой изменения в структуре общества, а это никогда не происходит бескровно.

Предвзятость ИИ и его собственники

О предвзятости инструментов на базе ИИ сказано уже достаточно, поэтому я не буду на этом останавливаться. Куда более интересно то, как OpenAI борется с этой предвзятостью. Как я уже упоминал, ChatGPT прошел этап контролируемого обучения, в ходе которого его пытались избавить от различных предубеждений. Задумка была отличной, однако в реальности этот процесс… привил чат-боту новые предрассудки. Условия этого этапа непрозрачны: кто те безвестные герои, решающие, какие ответы плохи? Низкооплачиваемые работники из стран третьего мира или достигшие просветления инженеры из Кремниевой долины? (Спойлер: правильный ответ — первый.)

Стоит также помнить, что все современные ИИ разработаны коммерческими компаниями, заинтересованными в первую очередь в получении прибыли. То, что они приносят какую-то условную пользу для человечества, — это скорее побочный результат. Если, конечно, вообще приносят. Ведь если даже такая несложная штука, как махинации с поисковой выдачей, может оказать значительное (и вполне измеримое) влияние на людей, то разнообразные помощники и советники с искусственным интеллектом тем более смогут незримо манипулировать мнениями пользователей.

Что теперь?

Вопрос о том, войдет ли искусственный интеллект в нашу жизнь, больше не стоит, поэтому следует хотя бы обсудить, как к этому подготовиться.

Прежде всего следует опасаться ситуаций, в которых ChatGPT (или его последующие модификации) будет принимать самостоятельные решения без человеческого контроля. Чат-бот умеет уверенно отвечать на вопросы, но это совершенно не означает, что он не умеет ошибаться. Тем не менее стремление сократить затраты и вывести людей из цикла принятия решений станет огромным соблазном.

Я также предсказываю, что в ближайшие десять лет основная часть контента в Сети (сначала текст и изображения, потом видео и игры) станет производиться с помощью искусственного интеллекта. При этом не думаю, что стоит рассчитывать на автоматические пометки о том, что контент произведен не человеком, — придется еще более критично относиться к тому, что мы читаем в Интернете, и пробираться через в десять раз большее количество белого шума, чем сейчас. Наибольшего опасения заслуживают специализированные модели, которые скоро появятся на рынке. Что произойдет, когда одна из компаний «Большой четверки» обучит модель на налоговом кодексе, а потом попросит ее найти в нем лазейки? А когда какой-нибудь высокопоставленный военный дорвется до диалогов с ChatGPT и решит: «дааа, я хочу что-то подобное в наших дронах»?

Искусственный интеллект возьмет на себя множество скучных задач, благодаря ему у людей появится масса новых возможностей и откроются совершенно новые формы искусства (да, это так). Но не все последствия внедрения ИИ будут столь радужными. Если не забывать об уроках истории, становится понятно, что искусственный интеллект с большой вероятностью сосредоточит еще больше власти в руках меньшинства и ускорит переход к технофеодализму. Он изменит способ организации труда и, может быть, даже повлияет на принципы взаимодействия человечества с накопленными им за всю историю знаниями. Хотим ли мы этого, уже совершенно не важно — ящик Пандоры открыт.



Источник

ИИ в жизни

Что нам делать с искусственным интеллектом

admin 11.06.2025
admin


Я уже немного устал от новостей про искусственный интеллект, но придется потерпеть, потому что они будут сыпаться из каждого утюга еще год или два. Но и потом развитие ИИ, он же AI, не остановится, просто журналисты/блогеры/тиктокеры и прочие «говорящие головы» устанут от темы. А пока им подкидывают новости не только техногиганты, но и правительства: Великобритания отрегулирует ИИ с трех сторон, Китай вынес черновик законодательства по ИИ на общественное обсуждение, США хочет «алгоритмической ответственности», европейцы по традиции заседают и так далее. Пока создание и использование систем ИИ никак не ограничено, но, видимо, это ненадолго.

Тут, конечно, есть о чем поспорить — а нужно ли госрегулирование ИИ, и если да — то зачем и как?

Что регулировать

Что такое искусственный интеллект? Благодаря маркетологам так называют все — от новейших генеративных моделей вроде GPT-4 до простейших систем машинного обучения, в том числе тех, которые используются уже десятки лет. Помните Т9 на кнопочных телефонах? Знаете про автоматическую классификацию спама и вредоносных файлов? Используете рекомендации фильма на «Кинопоиске» и Netflix? За каждой из этих привычных технологий стоит алгоритм машинного обучения (ML). Мы внедряем такие технологии в наших продуктах почти два десятка лет, но всегда называли их скромно, «машинное обучение», потому что «искусственный интеллект» сразу наводит на мысли о говорящих космических кораблях и прочей фантастике. Такой фантастический компьютер, полностью способный мыслить по-человечески, должен обладать общим ИИ (AGI) или сверхинтеллектом (ASI). AGI/ASI пока не изобрели и вряд ли изобретут в обозримом будущем.

Так вот, если все виды ИИ мерить одной линейкой и все зарегулировать по полной программе, то практически всей ИТ-индустрии, да и многим смежным, придется несладко. Ну, к примеру, если у нас потребуют собирать согласие со всех «авторов» данных из обучающей выборки, мы как ИБ-компания окажемся в сложной ситуации. Мы же учимся на зловредах и спаме, авторы которых обычно не оставляют контактных данных. Более того, если данные собираются, а алгоритмы обучаются уже почти 20 лет, то насколько глубоко в прошлое нужно лезть?

Поэтому важно, чтобы законодатели слушали не маркетологов, а экспертов индустрии и обсуждали предмет возможного регулирования достаточно конкретно и узко: например, многоцелевые системы, обученные на больших объемах открытых данных, или системы, используемые в принятии решений с высоким уровнем ответственности и риска.

Это, конечно, означает, что новые способы применения ИИ потребуют частого пересмотра норм регулирования.

Зачем регулировать

Честно скажу, в Судный день с участием сверхинтеллекта в ближайшие 100 лет я не верю. Зато верю в кучу разнокалиберных неприятностей от бездумного применения черного компьютерного ящика.

Тем, кто не читал наши статьи о блеске и нищете машинного обучения, напомню, что с любым ИИ есть три большие проблемы:

  • непонятно, насколько хороши данные, на которых он обучался;
  • совсем непонятно, что он из этих данных «понял» и как принимает решения;
  • а главное — и разработчики, и пользователи алгоритма могут его неверно применять.

Тут может быть все: от злонамеренного использования до бездумного следования решениям ИИ. Яркие примеры из жизни: фатальные ошибки автопилота, зачастившие в мемах и даже новостях дипфейки, нелепая ошибка в найме школьных учителей, полицейские арестовали воришку, но это был другой человек, а ИИ-кадровик недолюбливает женщин. А еще на любой ИИ возможны атаки с помощью специально созданных враждебных образцов данных: автомобиль можно обмануть наклейками, из GPT-3 — вытащить личные данные, антивирус или EDR тоже пытаются обмануть. Кстати, атаки на ИИ боевых дронов, описанные в фантастике, уже не кажутся такими фантастичными.

В общем, по-настоящему масштабных проблем применение ИИ пока не принесло, но потенциал для серьезных провалов явно имеется. Поэтому регулирование имеет понятные приоритеты:

  1. отсутствие инцидентов с критической инфраструктурой (заводы — пароходы — ЛЭП — АЭС);
  2. минимизация физических угроз (самодвижущиеся повозки, ошибочные диагнозы);
  3. минимизация личного ущерба и бизнес-рисков (аресты или наем на основе ширины черепа, неверное определение спроса и закупок и тому подобное).

Цель регулирования — заставить пользователей и создателей ИИ следить за тем, чтобы не повышать этих рисков. И чем серьезней риск, тем активней заставлять.

В случае ИИ часто вспоминают еще один пункт — соблюдение норм морали, этики и, так сказать, психологического комфорта. Для этого добавляют требование оповещать людей, что они смотрят на несуществующий (нарисованный ИИ) объект, общаются с роботом, а не человеком, требование соблюдать авторские права при обучении ИИ и так далее.

Зачем это? Чтобы законодателей и создателей ИИ не взяли на вилы! В некоторых частях света это очень даже актуально (вспомним, например, протесты против Uber).

Как регулировать

Проще всего, конечно, все запретить, но пока до этого вроде никто не додумался. Да и запретить ИИ немногим проще, чем запретить компьютеры в целом. Поэтому все разумные попытки регулирования исходят из принципа «чем больше риск, тем строже требования».

Машинные модели, используемые для чего-то достаточно тривиального — вроде рекомендации товаров в магазине, — можно не регулировать. По мере нарастания сложности модели или же чувствительности сферы применения к производителям и пользователям системы могут применяться все более драконовские требования.

  • Предоставлять регуляторам или экспертам код модели и обучающий набор данных для проверки.
  • Доказывать корректность обучающего набора данных, в том числе отсутствие предвзятости (bias), чистоту авторских прав и так далее.
  • Доказывать корректность «выхлопа» ИИ, например отсутствие галлюцинаций.
  • Маркировать работу ИИ и ее результаты.
  • Корректировать модель и обучающий набор данных. Например, удалять из исходных данных людей с определенным цветом кожи или подавлять рецепты взрывчатки на выходе модели.
  • Тестировать ИИ на «враждебных» данных и корректировать его поведение при необходимости. Здесь бы Аль-Эфесби расстроился.
  • Контролировать, кто и зачем использует конкретный ИИ. Отказывать в определенных видах использования.
  • Тренировать ИИ большого размера или в определенной сфере, только получив разрешение от регулятора.
  • Доказывать, что ИИ безопасно применять для решения конкретной задачи. Это очень экзотический подход для ИТ-индустрии, но он хорошо знаком фармакологическим компаниям, производителям авиационной техники и многим другим отраслям, в которых фундаментальной ценностью является безопасность. Сначала пять лет обширных испытаний, получение разрешения регулятора и только потом выпуск продукта в использование.

Последнее кажется избыточно строгой мерой только до тех пор, пока не узнаешь, что уже были прецеденты, когда ИИ неверно назначал приоритеты лечения пациентов с астмой и пневмонией и пытался отправить людей домой вместо палаты интенсивной терапии.

Меры принуждения ко всему этому могут варьироваться от штрафа за нарушение ИИ-норм (по примеру европейских штрафов за нарушение GDPR, закона о личных данных) до получения лицензий на ведение деятельности в сфере ИИ и уголовной ответственности за нарушения законодательства (как это предлагают в Китае).

А как правильно?

Все сказанное в этом абзаце — мое личное мнение, но оно основано на 30 годах работы в индустрии и деятельном участии в развитии технологий — от машинного обучения до систем, построенных по принципу secure-by-design.

Во-первых, регулирование требуется. Без него ситуация в ИИ станет похожа на автодороги без ПДД. Или, ближе к нашей теме, на ситуацию со сбором персональных данных в Интернете конца нулевых — когда почти все собирают все, что плохо лежит. Наличие регулирования в первую очередь активизирует в компаниях — участниках рынка самодисциплину.

Во-вторых, нужны максимальная международная гармонизация регулирования и сотрудничество. Как это происходит с техническими стандартами сотовой связи, Интернета и так далее. В современных геополитических реалиях звучит утопично, но очень хотелось бы.

В-третьих, регулирование должно быть не слишком жестким, потому что отрасль динамично развивается, и душить ее — недальновидно. При этом нужен механизм частого пересмотра правил, чтобы поспевать за развитием технологий и рынка.

В-четвертых, правила, уровни риска и уровни защитных мер должны вырабатываться с привлечением множества экспертов-практиков.

В-пятых, не надо ждать десять лет. Про риски Интернета вещей и уязвимости в промышленном оборудовании мы говорим уже добрых десять лет, а документы вроде EU Cyber Resilience act появились (в черновиках!) только в прошлом году.

Все на этом! Кто дочитал до самого конца — большие молодцы, всем спасибо!



Источник

ИИ в жизниИИ в искусствеИИ в науке

За занавесом правосудия: эра ИИ-судей в Китае

admin 29.02.2024
admin


В мире, где технологии развиваются с невероятной скоростью, идея искусственного интеллекта (ИИ), занимающего место судьи, уже не кажется такой уж фантастической. В Китае, стране, известной своими инновационными подходами к правоприменению, уже два года как введен в эксплуатацию ИИ-помощник судьи. Этот цифровой помощник, оснащенный мощными алгоритмами машинного обучения, способен просеивать горы юридических документов, находить релевантные дела и законы, а также формулировать предварительные вердикты. Но стоит ли ожидать, что в ближайшем будущем роботы полностью заменят человеческих судей?

На первый взгляд, преимущества такой системы очевидны: повышение эффективности, беспристрастность и, что особенно важно, снижение коррупционного фактора. Ведь ИИ, в отличие от человека, не подвержен влиянию личных интересов или внешнего давления. Однако, пока что конечное слово остается за живым судьей, который может не согласиться с машиной, но в таком случае он должен аргументировать свое решение. Это похоже на танец, где человек и машина должны идти в унисон, но где человек ведет.

Тем не менее, встает вопрос этичности. Можно ли доверить машине решать судьбы людей? Ведь юриспруденция – это не только законы и правила, но и понимание человеческих эмоций, социальных норм и моральных ценностей. ИИ может быть объективен, но может ли он быть справедливым? Справедливость требует эмпатии, а эмпатия – это исключительно человеческое качество.

Кроме того, не следует забывать о возможных рисках и ошибках. Что если алгоритмы ИИ будут несовершенны или предвзяты? А что если в систему вмешаются злоумышленники? Ведь даже самые совершенные системы безопасности не гарантируют абсолютной защиты от хакерских атак.

В конечном итоге, вопрос о том, станет ли ИИ полноправным судьей, остается открытым. Может быть, в будущем нас ждет симбиоз человеческого разума и машинной логики, где каждый будет играть свою роль в достижении высшей цели – справедливости. Но до тех пор, пока мы не сможем научить машины понимать сердцем, а не только разумом, последнее слово должно оставаться за человеком.



Источник

  • 1
  • 2
  • 3
  • 4

Свежие записи

  • GPT-5
  • Фестиваль Original+ представляет программу конкурса «Номинация Инновация»
  • Luma представила ИИ-агентов для креативной индустрии
  • Объявлены победители XVII Национальной премии «Большая цифра»
  • Заменит ли ИИ преподавателей через 5 лет?

About Me

About Me

Designer

Sed ut perspiciatis unde omnis iste natus sit voluptatem accusantium dolor emque.

Keep in touch

Facebook Twitter Instagram Pinterest Behance Youtube

Popular Posts

  • 1

    Openai-Anpropic Cross-тесты подвергают риски джейлбрейка и неправильного использования-что предприятия должны добавить к оценкам GPT-5

  • 2

    Попытки Маск политизировать его AI Grok плохи для пользователей и предприятий — вот почему

  • 3

    Конец эры программистов: Перспективы и вызовы в эпоху искусственного интеллекта

  • 4

    Эффективное использование голосовых ИИ-инструментов: Yandex SpeechKit, Sber SaluteSpeech и другие

  • 5

    Новая архитектура искусственного интеллекту

  • 6

    Web Design Trends For “Start Here” Pages

Рубрики

  • App Design (6)
  • UI/UX (7)
  • Web Design (7)
  • ИИ в бизнесе (42)
  • ИИ в жизни (34)
  • ИИ в искусстве (66)
  • ИИ в науке (43)
  • Новости (255)
  • Обзор сервисов (34)
  • Pinterest
  • Youtube
  • Email
  • Vk
  • Yandex

@2025 - All Right Reserved. Designed and Developed by PenciDesign

Новости искусственного интеллекта и технологий
  • Новости
  • Обзор сервисов
  • ИИ в искусстве
  • ИИ в бизнесе
  • ИИ в науке
  • ИИ в жизни