ИИ в жизни

В первой части этого сериала мы разобрались с тем, как работают блокчейны и криптовалюты. Также мы пришли к выводу, что криптовалюты — не то чтобы валюты. А единственное, в чем они смогли преуспеть — это в создании самого большого и доступного на свете казино (после Уолл-стрит, конечно). Закончили мы на утверждении, которое многие энтузиасты крипты, вероятно, сочтут провокационным: блокчейн — это решение, для которого все еще не найдена подходящая проблема.

Контраргументы к этому утверждению, я уверен, будут так или иначе касаться Ethereum — одного из блокчейнов, который мы упомянули в первой части. Самое время познакомиться с ним поближе. У Ethereum есть несколько преимуществ по сравнению с Bitcoin. Кроме того, в его экосистеме существует несколько приложений, которые связаны с использованием так называемых «смарт-контрактов». Эти приложения — децентрализованные автономные организации (Decentralized Autonomous Organizations, DAO) и, конечно же, невзаимозаменяемые токены (Non-Fungible Tokens, NFT). Как видите, мы снова оказались в ситуации, когда нам нужно сперва разобраться в технических нюансах технологии — без этого будет проблематично понять, что же, собственно, происходит.

Явление Эфира народу

В 2013 году Виталик Бутерин, молодой энтузиаст Биткойна, опубликовал свой собственный дизайн криптовалюты. В частности, он высказал мысль, что блокчейн может содержать не только простые записи о транзакциях. Почему бы ему не содержать еще и код?

В «нашу прелесть» можно запихнуть столько кода!

Разумеется, Ethereum также поддерживает и переводы собственной «валюты» (собственно Эфира) от одного аккаунта к другому. Но это далеко не все: дополнительно участники сети могут писать программы (они и называются «смарт-контрактами»), сохранять их в блокчейне и давать другим людям взаимодействовать с теми функциями, которые эти программы предоставляют [1] Язык программирования, который используется в данном блокчейне, называется Solidity. Он позволяет программистам определять функции, имеющие те или иные разрешения (к примеру, к ним может иметь доступ только текущий владелец контракта) или требующие оплаты для их вызова. Тем самым создается основа для смарт-контрактов.. Эта инновация поменяла самую природу блокчейна: если Bitcoin был распределенной базой данных, то Ethereum стал распределенной записью состояний программы.

Концепция комиссий за транзакции (которые в Ethereum называются «газом») была переработана, чтобы отвечать потребностям этой новой парадигмы, так что пользователи теперь платят за количество произведенных операций [2] В дополнение к комиссиям за каждую инструкцию, отправитель также может задать произвольную премию, которая позволит его запросу продвинуться ближе к началу очереди и быть выполненным раньше других. Это приводит к «газовым войнам», когда несколько участников сразу конкурируют за приоритет в очереди, тем самым сильно повышая размер комиссии. Абсолютный рекорд — около $200 000 — был установлен 1 мая 2022 года.. Участники сети теперь не только подтверждают транзакции, но также выполняют код смарт-контрактов, чтобы вычислить и записать результат его нового состояния после выполнения запрошенных функций. Это позволяет пользователям Ethereum называть его «виртуальной машиной Ethereum» — в некотором роде вся сеть представляет собой один большой метакомпьютер.

Благодаря этой концепции от Ethereum с его фреймворком распределенного программирования, не требующего доверия между сторонами, ожидают настоящей революции в том, как мы себе представляем вычисления. Основная идея вот в чем: когда Bitcoin пошел на штурм банковской индустрии — это было мелко. Надо целиться выше: ведь в куче отраслей есть разнообразные посредники и доверенные стороны, которых можно заменить хорошо продуманными смарт-контрактами: от страховых компаний до почтовых служб, а когда-нибудь — даже правительства.

Смарт-контракты (которые на самом деле тупые программы)

Внимательные читатели, возможно, уже подметили весьма раздражающую особенность криптоиндустрии: в ней есть неимоверное количество непонятных стороннему человеку терминов, без которых, честно говоря, легко можно было бы обойтись. Похоже на то, что ребята из мира криптовалют подцепили эту тему у финансовой индустрии и используют всякие эффектные словечки, чтобы было сложнее разобраться в том, что же на самом деле происходит. К сожалению, с этим нам приходится бороться на протяжении всего повествования.

Так вот, очередной термин такого рода: смарт-контракты. Насколько я понимаю, название призвано добавлять уверенности в том, что это что-то очень надежное и солидное. Ведь в реальном мире контракты воспринимаются как что-то безопасное, так что логично предположить, что когда они еще и умные, то вот она, настоящая безупречность. Увы, в реальности умный контракт — не то чтобы контракт, и вовсе не обязательно умный.

Во-первых, смарт-контракт будет настолько умным, насколько умен тот, кто его запрограммировал — можете по своему опыту примерно прикинуть, насколько это может быть «умно» в среднем по палате. Во-вторых, хотя они кое к чему обязывают (постольку, поскольку операции в блокчейне необратимы), на самом деле они не предоставляют никаких гарантий, которые традиционно ассоциируются с контрактами в реальной жизни. Не существует каких-то криптосудов, в которые вы можете обратиться, если нарушен дух контракта или если окажется, что одна из сторон на самом деле не была дееспособной (например, это был несовершеннолетний), или если контракт изначально был незаконным. Смарт-контракты также иногда называют dApps (decentralized apps — децентрализованные приложения), что, на мой взгляд, несколько более адекватный термин.

Верующие в Ethereum систематически отметают любые сомнения в природе и достоинствах смарт-контрактов тезисом «Код — это закон». Идея тут в том, что поскольку умный контракт создан из кода, то он не оставляет никаких лазеек для двойственности. Все, что записано в контракте, будет выполнено бездушными машинами в сети, а блокчейн, в свою очередь, гарантирует, что результат этих операций не получится подделать или исказить. Любые взаимодействия с контрактом (через вызовы функций) также публично заносятся в блокчейн, так что в каком-либо жульничестве не остается смысла, ведь оно сразу станет всем очевидно. Так в чем же проблема?

Одна из проблем должна быть сразу очевидна любому, у кого есть хотя бы элементарный опыт программирования. Представьте, что вам нужно написать код, который обрабатывает невероятные объемы денег, с нечеловечески щедрой системой баг баунти (сумевший взломать забирает все деньги), и этот код вы можете закоммитить только единожды — после чего кто угодно в мире сможет взаимодействовать с ним. Не забывайте, что блокчейн не позволяет вносить какие-либо изменения. Все-таки если бы контракты можно было менять после того, как люди начали ими пользоваться, то из этого не вышло бы ничего путного [3] В принципе, есть способы реализации механизма обновления, но они дорого обходятся и требуют создания сложной архитектуры. К тому же введение таких «непредвиденных обстоятельств» создает ситуацию «Уловки-22»: наличие возможности патчить контракты приводит к тому, что разработчики могут с ними мухлевать.. Представили? Теперь ответьте на вопрос, только честно: насколько вы были бы уверены в своей способности сделать ровно ноль ошибок?

Можно посмотреть на это и с другой стороны: насколько вы как пользователь смарт-контракта были бы готовы подписаться под ним кровью — при условии, что по-хорошему сперва требуется провести аудит кода? Вопрос вовсе не теоретический. В прошлом апреле NFT-проект под названием AkuDreams потерпел серьезную неудачу после того, как в коде были обнаружены ошибки, из-за которых смарт-контракт полностью заклинило. В результате в контракте навсегда застрял эквивалент 34 миллионов долларов, к которым никто теперь не сможет получить доступ, включая разработчика [4] Подробный разбор бага в dApp можно найти здесь. Кстати, это отличная иллюстрация того, как досадные мелочи могут полностью разрушить дух контракта.. Закон суров, но он закон?

Ересь неизменяемых программ

Оптимисты скажут, что я могу приводить сколько угодно примеров ущербных контрактов, но это вовсе не значит, что контракты нельзя реализовывать правильно. А также, что индустрии еще надо повзрослеть и обзавестись опытом. Я бы сказал, что все ровно наоборот: поскольку индустрия явно не может совладать с созданием даже объективно очень простых контрактов, сама идея перехода к каким-то серьезным приложениям выглядит абсурдной.

Выражусь иначе. Если кто-то думает, что в dApp можно перевести что-то серьезное, вроде страхового полиса, то этот кто-то — либо программист, не имеющий понятия о том, насколько сложны условия страхования, либо страховщик, который ни разу в жизни не написал ни строчки кода. И мы тут даже не начинаем разговор о том, что блокчейн понятия не имеет о большинстве вещей, которые происходят в реальной жизни, таких как пожары или автомобильные аварии.

Я работаю в индустрии кибербезопасности уже более 10 лет. Поэтому я считаю своей обязанностью проинформировать вас о том, что только полный безумец может всерьез рассматривать перенос используемых в реальной жизни технологий в среду однократной записи. Даже если забыть обо всех проблемах, которые добавляет блокчейн (о них мы подробно поговорили в первой части этого сериала), опыт учит нас тому, что ошибки программирования могут и будут происходить. А также тому, что патчи — это жизненная необходимость. В самом пессимистичном сценарии ошибки могут быть найдены в самом языке Solifity, как это происходило с большинством языков программирования в прошлом. И что произойдет со всеми смарт-контрактами в этом случае?

Такое отсутствие гибкости доставляет много боли, с какой стороны тут ни посмотри. В блокчейне что сделано, то сделано: кривые программы нельзя удалить, а результаты непреднамеренных происшествий или очень даже умышленного взлома невозможно откатить — даже если вы каким-то образом сумели раздобыть соответствующее постановление суда. Неудивительно, что такая ничего не прощающая среда — в которой вы всегда на расстоянии клика от финансовой пропасти — заодно является очень плодородной почвой для разнообразного мошенничества (к этому мы еще вернемся).

Децентрализованные автономные организации (DAO)

Перед тем как мы перейдем к NFT, я хочу кратко остановиться на еще одной сущности, которая есть в Ethereum. Не то чтобы это было необходимо для понимания сути невзаимозаменяемых токенов, но это позволит мне рассказать самую невероятную — и, если подумать, очень характерную — историю, которая когда-либо происходила в индустрии криптовалют.

Поскольку мы уже разобрались, что такое dApp, несложно представить, что они также могут использоваться в качестве своего рода систем управления. Децентрализованная автономная организация (DAO) — это смарт-контракт, в котором пользователи могут объединять средства. В контракте закрепляется заранее определенный набор правил (который может быть корректно реализован, но это уж как пойдет): как происходит голосование об использовании средств, как их можно выводить, при каких условиях и так далее.

Децентрализованные автономные организации, по утверждениям сторонников этой концепции, потенциально могут произвести революцию в обществе и заново определить структуры власти. С их помощью можно создавать прозрачные и справедливые формы управления. В общем, это потенциальный фундамент систем управления сообществами будущего — этакие абсолютно прозрачные и непогрешимые наборы законов, которым хочешь не хочешь, а будешь следовать, потому что все жестко запрограммировано и навсегда записано в блокчейне.

Впрочем, сама концепция регулирования социальных взаимодействий с помощью отлитого в киберграните набора правил лично мне кажется изначально обреченной на провал. Даже если бы всю полноту социальных взаимодействий можно было превратить в код (а это вряд ли) и даже если бы все это можно было реализовать без багов и проблематичных эффектов эмерджентности (что еще более сомнительно). Так вот, даже в этом идеальном случае нам следует помнить, что социальные нормы постоянно меняются. Мир меняется каждый день. Иногда вчерашние правила просто необходимо ломать.

Первое DAO было создано в мае 2016 года и, собственно, так и называлось — The DAO. Очарованные невероятным потенциалом и возможностью поучаствовать в этом уникальном социальном эксперименте, люди быстро стекались в проект, вливая в него свои средства. В результате проект собрал эквивалент 150 миллионов долларов (по курсу того времени). По задумке The DAO должно было стать чем-то вроде централизованного венчурного фонда. Картина рисовалась такая: стартаперы будут питчить свои идеи мудрым членам The DAO (только что окончившим всемирно известную Школу экономики Реддита, конечно же), а те будут голосовать своими деньгами, решая, кому же достанется финансирование.

Увы и ах — очередная уязвимость в смарт-контракте привела к тому, что атакующему удалось вывести около трети ETH, которые тогда были под управлением фонда. Украденная сумма составляла около 5% от всех монет в блокчейне Ethereum на тот момент. По идее, это тот самый случай, когда пострадавшим участникам следовало бы вспомнить их любимую мантру «Код — это закон», смириться и зафиксировать убытки. Но произошло совершенно иное: от действий взломщика пострадало достаточное количество крупных игроков, так что они смогли организовать то, что называется в этой индустрии «жестким форком». Они создали копию блокчейна, в которой взлом попросту никогда не происходил, и начали использовать ее — таким образом навсегда разделив реальность на две альтернативные версии. Все крупнейшие участники, включая разработчиков Ethereum, перешли на новую, невзломанную версию, и именно она с тех пор и используется большинством — это собственно Ethereum. Старая, взломанная версия получила название Ethereum Classic и теперь прозябает, так сказать, на третьей странице криптогугла — и она настолько централизована, что в 2019 году в ней была успешно осуществлена атака 51%.

Разработчки Ethereum переезжают в параллельную вселенную, в которой их никогда не взламывали

Эта история полностью разрушает миф о децентрализованной экосистеме, в которой у всех равные права. Если вы вольетесь в эту движуху и вас кто-то обманет — можете быть уверены, блокчейн не услышит ваши мольбы о помощи. Но если что-то угрожает благосостоянию местной элиты, то эта элита мгновенно находит способ — если потребуется, то вне блокчейна — использовать свое финансовое и политическое влияние в системе, чтобы устранить любые неурядицы и восстановить свое превосходство [5] Если хотите еще безумных примеров из жизни децентрализованных автономных организаций (на этот раз из категории «высокомерие и некомпетентность»), я рекомендую вам изучить историю SpiceDAO. Началось все с того, что группа товарищей приобрела сценарий не снятой экранизации «Дюны» режиссера Алехандро Ходоровски. Товарищи решили, что на этой основе им удастся прийти к успеху в индустрии развлечений, создав крупный конгломерат. Ну а дальше началась драма..

Определение NFT (наконец-то)

Ну вот, у нас наконец-то есть все, что требуется для объяснения NFT. Поскольку концептуально это весьма сложное явление, его придется рассмотреть с разных сторон. С практической точки зрения, NFT — это свидетельство права собственности, записанное в блокчейне. Наиболее близкий аналог из реальной жизни — это фишка казино. Если эта фишка у вас, то вы владеете тем, что за ней закреплено (что бы это ни было). Но вы также можете в любой момент кому угодно ее отдать. Или продать, если найдете покупателя. С технической точки зрения, NFT — это смарт-контракт, в котором содержится одна или несколько таких фишек (или «токенов»). Cвоего рода таблица, в которой расписано, кто владеет каждой из них, а также набор функций, которые управляют их передачей.

Смарт-контракт обычно содержит ссылку на ресурс, который связан с каждым из токенов, потому что хранить этот ресурс непосредственно в блокчейне было бы слишком дорого. В худшем случае это просто HTTPS-ссылка, со всеми вытекающими последствиями: ссылка может в любой момент перестать работать, например если кто-то забудет продлить домен. Более удачный вариант — использование специальных IPFS-ссылок, но даже это вовсе не гарантирует отсутствие проблем. Ну и, конечно же, вам придется верить в то, что контролирующий место хранения ресурса после продажи не подменит содержимое каким-нибудь задорным эмодзи.

Вот что происходит, когда ты покупаешь ссылку

«Погоди-ка, это все?» — спросите вы недоверчиво. Ага. Это все, больше ничего тут нет. Владение невзаимозаменяемым токеном означает только то, что где-то в блокчейне есть смарт-контракт, в котором записано: «[Имярек] владеет фишкой с ID 0x12345». Из факта владения могут следовать те или иные права, полномочия или привилегии, но это уже несколько другое дело. Токены могут быть каким-то образом использованы: скажем, разработчики могут создать мессенджер, в котором вы можете получить доступ к определенным каналам, если у вас есть некий токен. Или это может быть какой-то dApp, с которым можно взаимодействовать, только если у вас есть нужная фишка. Некоторые сценарии использования вообще представляют собой социальные конструкты: например, некий художник может создать dApp с джентльменским соглашением, что каждый токен представляет определенное произведение искусства, и владение токеном означает владение соответствующим файлом. Все это приводит нас к очень непростому вопросу, который напрямую касается NFT.

Что означает право цифровой собственности?

Конечно же, идея владения цифровыми товарами существовала задолго до появления NFT. Самый простой пример — это предметы в онлайн-играх с какими-то особенно выдающимися характеристиками; они редко встречаются и поэтому представляют собой ценность для игроков. Довольно сложно утверждать, что игроки по-настоящему владеют этими предметами, поскольку это всего лишь записи в базе данных, используемой разработчиками игры. Этот предмет теоретически может быть удален в любой момент — более того, он обязательно рано или поздно будет удален, когда игру спишут в утиль и сервера отключат.

В глазах сторонников NFT это как раз и есть аргумент в пользу того, чтобы хранить информацию о собственности в блокчейне, в котором эти данные защищены от чьих-то случайных решений (конечно, в том случае, если в смарт-контракте не окажутся баги или закладки). Не очень понятно, какую пользу может принести условный меч 146-го уровня, подкрепленный блокчейн-записью, если разработчики игры решат, что вы больше не можете им пользоваться, или если соответствующей игры больше не существует. Но многим удается успешно игнорировать этот вопрос.

Суровая правда состоит в том, что концепции собственности в чисто цифровом виде на самом деле не существует. Между прочим, в индустрии программного обеспечения об этом догадались уже очень давно: когда вы приобретаете программу, то получаете лицензию, которая дает вам определенные права, такие как право пользования этой программой. Но вы ею не владеете — программа остается интеллектуальной собственностью ее разработчика. По этой же причине в цифровом мире не существует концепции кражи или хищения («хищение — это противоправное изъятие чужого имущества»), потому что тут нет ничего, кроме данных. С юридической точки зрения я не могу украсть у вас данные, потому что данные останутся у вас. Я могу получить к ним доступ или размножить без соответствующего разрешения, но «изъять» — это вряд ли. И если вам вдруг интересно, именно по этой причине при судебных делах о пиратстве программного обеспечения речь всегда идет о статьях, касающихся нарушения авторских прав, а вовсе не о кражах.

Отличное определение цифрового права собственности в одном твите

Если вы покупаете что-то в реальной жизни (скажем, багет), очень сложно оспорить ваше право собственности. И вовсе не потому, что вы можете гордо помахать чеком из булочной, если у кого-то возникнут вопросы. Причина гораздо проще — вы крепко, но нежно держите багет в своих руках (как это и положено делать с багетом) и поэтому можете сказать: «Смотрите, этот багет в моих руках, поэтому он мой». Основной посыл тут в том, что багет, как материальный объект, уникален (багетов много, но конкретно этот багет — единственный), и если вы его контролируете, то это достаточное доказательство того, что он ваш.

Цифровые объекты не имеют данного свойства в силу своей природы — они представляют собой последовательности битов, которые копируются по несколько раз на дню в ходе их обычного использования. Попытка решения проблемы методом NFT — то есть наделение объекта серийным номером — на самом деле никак не меняет положение дел. Ваш сертифицированный портрет обезьянки на самом деле точно такой же, как и тот, который я только что сохранил себе на компьютер, нажав правую кнопку мыши.

Но погоди, скажете вы, есть же несколько более абстрактные варианты владения, в случае которых ты не можешь так же легко доказать свое право собственности. Скажем, кусок земли: просто находиться на нем недостаточно для того, чтобы стать его собственником юридически. В этом случае, чтобы продемонстрировать свое право собственности, вам необходимо показать некий документ, который с тем же успехом может быть записан в блокчейне, где он будет заверен, надежно сохранен и публично доступен. Это кажется хорошим аргументом в пользу NFT, но на самом деле — совсем наоборот. Представьте, что вы купили кусок земли и дом, и ваш документ об этом факте надежно сохранен в блокчейне Ethereum. Вы приезжаете к своему новому дому, но внутри вы обнаруживаете меня, сидящего в домашних трениках на удобном диване. «Это мой дом, я его купил!» — говорите мне вы и показываете соответствующий смарт-контракт. Но я отвечаю: «Это все прекрасно, но я тоже его купил,» — и показываю вам свой, также безупречно оформленный смарт-контракт в блокчейне Solana. И добавляю: «Я не признаю власть блокчейна Ethereum» [6] Да и с чего бы мне ее признавать? В мире существует, без преувеличения, тысяча блокчейнов. Да-да, тысяча! Даже если вспоминать только популярные— Tezos, EOSIO, Stellar, Neo, QTUM, Waves, то продолжать можно очень долго.. Варианты ваших дальнейших действий:

• Утереться и забыть.

• Подождать, пока господин Бутерин провозгласит Народную Республику Эфира, заведет армию и сможет силой заставить меня соблюдать ваш контракт вместо моего.

• Обратиться со своей проблемой в местный суд — как вы, скорее всего, и поступите.

И это приводит нас к двум важным предпосылкам права собственности. Первая: не существует права собственности на цифровые товары, потому что они не уникальны. Вторая: не существует права собственности на физические товары без центральной власти (то есть правительства). Как следствие, NFT не имеет никакого отношения к праву собственности.

Так что же такое NFT?

Вы будете смеяться, но никто на самом деле не знает. Как следует почесав голову, регуляторы могут классифицировать NFT как ценные бумаги. Юридические фирмы предупреждают о том, что если к NFT не прилагаются какие-либо дополнительные соглашения в явном виде, то, скорее всего, вы получаете только право демонстрации соответствующего цифрового объекта. И ничего больше: к примеру, вы не имеете права напечатать себе футболку с вашим криптопанком за миллион долларов. Обидно, да?

Оптимисты считают NFT отличным способом поддержать художников и освободить их от влияния художественных галерей, обложивших рынок искусства трехметровым забором. В частности, они замечают, что смарт-контракты могут включать условия, по которым художник получает роялти при каждой последующей продаже. Сложно спорить с тем, что некоторые художники неплохо заработали на NFT. Однако общее представление о рынке NFT-искусства очень сильно искажено громкими заголовками статей, рассказывающих о баснословных суммах, выплаченных за очередную обезьянку. Объективно же картина несколько иная: вот тут хорошие люди уже все подсчитали и сделали несколько интересных выводов.

Первичные продажи NFT: распределение цен. Источник

• Подавляющее большинство (порядка 70%) NFT никогда не находят второго покупателя.
• Лишь около 10% NFT продаются за суммы более $400.
• Для отдельно взятого NFT, проданного за $100, комиссия платформы и плата за «газ» могут суммарно составлять от 70% до 150% итоговой цены. Это означает, что в среднем художники теряют деньги.

Внимательное изучение того, каким же проектам удалось по-настоящему выстрелить, рисует весьма тревожную картину: художественная ценность объекта искусства имеет очень небольшое влияние на успех. Вот что действительно помогает, так это возможность продавца создать ажиотаж и привлечь внимание медиа. Как следствие, одной из самых выгодных стратегий становится привлечение топовых ютюберов вроде Логана Пола или MrBeast. Также неплохие результаты приносит привлечение каких-нибудь еще знаменитостей, взять хотя бы Пэрис Хилтон (какое вообще отношение она имеет к продвигаемому ею проекту?) или Джастина Бибера. Допустим, у вас нет сообщества, которое вы могли бы повести за собой, или доступа к знаменитостям, но зато есть лишние несколько сотен тысяч долларов. В этом случае вы можете создать свою собственную волну хайпа — совершить рекордную покупку NFT и подождать, пока об этом расскажут из каждого телевизора.

Так что же такое NFT на самом деле?

Кажется, тут мы зашли в тупик. С одной стороны, NFT не способны служить адекватным доказательством права собственности. С другой стороны, как и все те технологии, поверх которых они построены, невзаимозаменяемые токены, по-видимому, приносят несметные богатства только тем, кто уже богат и знаменит. Тут самое время вспомнить то, о чем я уже несколько раз говорил: а именно, что Bitcoin и Ethereum — это не валюты, потому что, по сути, нет продуктов, которые вы могли бы за них купить. Есть теория, что NFT были созданы с расчетом на то, чтобы заполнить эту пустоту, то есть создать рынок, который наконец-то позволил бы криптовалютам циркулировать внутри экосистемы. Тут самое время разобраться, откуда и куда ведут финансовые потоки в мире криптовалют.

Новые эфиры и биткойны в соответствующих блокчейнах возникают из ничего, падая на голову майнеров в качестве награды за поддержание инфраструктуры сети. Однако майнеры — существа физические, у них есть счета, по которым нужно платить. Поэтому рано или поздно появляется потребность в конвертации их BTC или ETH в какую-нибудь настоящую валюту. Даже у первопроходцев криптовалют, которые успели намайнить или приобрести значительные количества монет при очень небольших вложениях, обычно есть желание выйти в кэш. Причина проста: криптовалюты банально не на что тратить.

Ну а раз вы не можете ничего купить за ETH или BTC, все, что остается — это поменять их на условные доллары. Но как вы это сделаете? Разумеется, есть площадки для обмена криптовалют. Но они выступают просто как посредники между покупателями и продавцами, вкладывая минимум собственных денег — ровно столько, сколько необходимо, чтобы процесс торговли протекал гладко. Если вы придете к ним с кучей ETH на сумму в 10 миллионов долларов, площадка у вас их не выкупит. Если на рынке есть спрос на такое количество эфиров, то, конечно, вам удастся их продать. Но если нет — ваша заявка на продажу останется в системе. И если все будет хорошо (то есть если никто не разместит более выгодную заявку), вы постепенно продадите свои ETH желающим влиться в счастливую семью Ethereum.

Каждая из очередей может стать короче, только когда кто-то стоит в другой

Но вы наверняка видите в этом плане серьезный изъян, правда? Почему кто-то в здравом уме решит купить у вас ETH или BTC, зная, что они не смогут ничего за них приобрести? Им неизбежно придется каким-то образом обменивать свои BTC или ETH на доллары, так зачем же они будут навлекать на себя те же самые трудности, с которыми сейчас столкнулись вы? Ответ, разумеется, состоит в том, что они рассчитывают продать эти монеты дороже, чем покупают. Вот суровая правда, которой обычно не находится места в красивых статьях с громкими заголовками: у экосистемы криптовалют очень серьезные проблемы с ликвидностью.

Потрясающие воображение суммы, за которые продается очередной NFT, указываются, разумеется, в долларах. Однако на практике осуществляются эти продажи в ETH — и разрекламированная долларовая стоимость остается чисто теоретической до тех пор, пока криптовалюта не будет обменяна на настоящие деньги. Не так уж важно, что каждый ETH стоит примерно $1800 (курс на момент написания этого поста), если спрос есть только на 100 монет. Ваши эфиры на 10 миллионов долларов просто не продадутся.

Подытожим: крупные держатели монет испытывают серьезную потребность превратить их в настоящие деньги (то есть такие, за которые можно купить условный багет), но они могут это сделать только в том случае, если есть постоянный входящий поток [7] В идеале, входящий поток должен быть еще и как можно более массовым, поскольку превышение спроса над предложением поднимает курс обмена и увеличивает маржинальность для тех, кто выходит в кэш. На практике это означает, что пользователи криптовалют имеют прямую финансовую заинтересованность в расширении круга участников — и это сильно мешает им объективно воспринимать недостатки экосистемы. Выражаясь словами Аптона Синклера, «сложно заставить человека что-то понять, если от непонимания зависит его зарплата». желающих приобщиться к криптовалютам. При этом единственное, для чего люди могут захотеть купить крипту — это для спекуляции. Поэтому структурно мир криптовалют не просто полагается на спекуляции — он испытывает в них экзистенциальную потребность, поскольку только они и обеспечивают необходимый для его существования денежный поток. Надо ли говорить, что новые спекулянты очень быстро сталкиваются с той же проблемой, что и старые: у них возникает необходимость в новых покупателях, чтобы зафиксировать прибыль. И то же самое происходит с каждым новым кругом.

Это не пирамида, это низкополигональный конус

В этом контексте возникает большой соблазн интерпретировать феномен NFT как искусственный хайп, созданный для привлечения новых покупателей. Такая точка зрения отлично объясняет очевидный разрыв между рыночной ценой и продуктом, то есть довольно отвратительными картинками в формате JPEG или PNG. Также она отлично объясняет, почему крупные держатели криптовалют так легко выкидывают за эти картинки какие-то невероятные суммы вместо того, чтобы тратить эти деньги на каких-нибудь теплых островах. Ответ очень прост: если они не могут превратить свои ETH в деньги из-за нехватки спроса, эти монеты по сути ничего не стоят. Поэтому есть смысл максимально зрелищно их сжигать — так, чтобы это попадало в новости и создавало иллюзию того, что люди делают целые состояния на NFT. Тем самым создаются условия для будущего выхода в кэш: безумные цены NFT создают медиахайп, медиахайп привлекает новых покупателей, а поток новых покупателей делает возможным для продавцов конвертацию монет в деньги.

Так что если вы интересуетесь криптовалютами и NFT, будет большой ошибкой считать как одно, так и другое главными компонентами экосистемы. Главное и единственное, что имеет значение в мире крипты — это новые участники. Жизнь и смерть NFT-проекта зависит только от того, сумеет ли он создать вокруг себя достаточное количество хайпа, чтобы убедить новичков в том, что они смогут на этом проекте как следует заработать, если присоединятся прямо сейчас. А для этого им, конечно же, придется приобрести Ethereum.

Слеп в прямом смысле — вообще ничего не видит

Нетрудно догадаться, что такая токсичная структура — идеальная среда для обманщиков всех сортов. Можете быть уверены, что любая мошенническая схема, которую когда-либо выдумало человечество, уже была использована в этом прекрасном новом мире. И, по сути, мошенничество стало нормой, потому что в индустрии нет ни регулирования, ни защиты потребителей, ни возможности обратиться за помощью.

Это довольно специфическая для современного мира ситуация, которая создает почву для специфических же явлений. Например, на ней процветает фиктивная торговля (wash trading). Это значит, что организаторы проекта перепродают токены между разными аккаунтами, которыми они сами же и управляют, создавая таким образом видимость высокого спроса и накручивая цену.

Также многие NFT-проекты не останавливаются на предложении токенов, а представляются в качестве краудсорсинговых инициатив (по очевидным причинам та страница, на которую я тут ссылаюсь, существует уже только в веб-архиве). Идея тут в том, что собранные в ходе продаж токенов деньги будут впоследствии инвестированы в создание каких-то продуктов или сервисов — товаров, фильмов, компьютерных игр и так далее. Также к этому могут быть прикручены DAO, которые позволят участникам влиять на развитие проекта. Как несложно догадаться, организаторы часто не имеют ни малейшего понятия о том, как достичь заявленной цели, итогом чего может быть либо провал проекта, либо исчезновение организаторов в туманной дали вместе с собранными средствами. Такой поворот принято называть термином rug pull.

И, конечно же, вы можете твердо рассчитывать на всевозможные кибератаки: фишинг, взломы смарт-контрактов, вредоносное ПО, взломы торговых площадок и так далее. Но и это еще не все: тут также происходят старые добрые кражи произведений искусства, поскольку абсолютно ничто не мешает создавать NFT на основе картин, которые вам не принадлежат. Все настолько плохо, что крупнейшее онлайн-сообщество художников DeviantArt разработало систему автоматического отслеживания нарушения авторских прав NFT-проектами, и эта система выдала уже более 80 000 оповещений.

Тем временем адвокаты из Твиттера всерьез задаются вопросом, есть ли у Сета Грина авторские права, необходимые ему для реализации его проекта ТВ-шоу «Скучающая обезьяна». Тот факт, что он заплатил $100 000 за то, чтобы вернуть украденные у него токены, в мире NFT воспринимается как позитивный результат

Заключение

Что ж, пора нам опустить занавес в этом театре абсурда. Это заняло немало времени, но мы наконец-то добрались до некоего подобия заключения. И пора ответить на вопрос, с которого мы начинали этот сериал. Так стоит ли вам купить NFT? Нет. Держитесь от них как можно дальше. И от криптовалют тоже держитесь подальше, если уж на то пошло. Допустим, вы действуете с позиции холодного расчета и собираетесь закрыть глаза на кучу проблем, которые создает эта экосистема. Все, что вас интересует — это заработать по-быстрому небольшое состояние. Даже в этом случае не стоит связываться с NFT — вы, скорее всего, проиграете.

Дело в том, что, как и те системы, которые лежат в фундаменте NFT, индустрия построена таким образом, что у крупных игроков всегда будет серьезное преимущество. А все, что будет дозволено вам — это пытаться урвать себе какие-то крохи, постоянно уворачиваясь от вездесущих мошенников. Вот лучший жизненный совет, который я могу вам дать: когда вы думаете, что участвуете в пампе — на самом деле вы часть дампа.

Теперь к другому вопросу на миллион долларов (на самом деле даже на несколько миллиардов): являются ли NFT мошенничеством? Ответ на этот вопрос зависит от того, что вы понимаете под таковым. Являются ли мошенничеством казино? Все игры в них устроены таким образом, что у казино всегда есть статистическое превосходство (даже в блэкджеке, хотя хороший игрок может сократить его до 0,5%). Если вам повезет сорвать джекпот, казино не станет отбирать у вас выигрыш и позволит уйти гораздо более богатым, чем вы в него заходили. У владельцев казино есть математическое доказательство того, что в долгосрочной перспективе они всегда останутся в плюсе. И они знают, что если кому-то время от времени везет по-крупному, то это идет бизнесу только на пользу, потому что обеспечивает постоянный приток большого количества тех, кто проиграет по чуть-чуть. Мошенничество ли это? Решайте сами.

NFT очень похожи на казино. Но есть один нюанс: с ними вы покидаете безопасную территорию строго регулируемого игорного бизнеса XXI века и оказываетесь в мире цифрового Дикого Запада. Скорее всего, вас крайне цинично обчистят.

Напоследок еще один совет: не верьте ни единому слову владельцев NFT. Я надеюсь, мне удалось продемонстрировать, что их прибыль напрямую зависит от того, удастся ли им убедить вас и ваш кошелек присоединиться к движухе. Я уж не говорю о разрушительном когнитивном диссонансе, вызванном приобретением ссылки на JPEG-файл за эквивалент десятилетней зарплаты. Пусть даже глубоко внутри, они прекрасно понимают, что все это в лучшем случае игра с нулевой суммой. Так что тут каждый сам за себя — как я уже сказал выше, настоящий Дикий Запад.

Что же мы уже успели узнать? Во-первых, что криптовалюты — это чисто спекулятивные инструменты. Во-вторых, что NFT — спекулятивные инструменты еще почище криптовалют — были построены поверх последних, по сути, для того, чтобы нагонять в них трафик. Но и на этом все не заканчивается: есть еще одна штука, которая построена поверх всего этого. Поэтому последнюю часть данного сериала мы посвятим надвигающейся на нас технологической катастрофе (от которой уже вряд ли получится увернуться) — метавселенной. И завершим сериал рассказом о влиянии криптовалют и NFT на реальную экономику и политику.

Неоднократно слышал мнение о том, что блокчейн — это очень круто, это прорыв, и скоро все-все-все будет работать на блокчейне. Спешу вас разочаровать, если вы вдруг поверили в это.

Уточнение: в этом посте мы поговорим о том варианте реализации технологии блокчейн, который используется в криптовалюте Биткойн. Существуют другие применения и реализации блокчейна, в некоторых из них устранены какие-либо недостатки «блокчейна классического», но обычно они построены на одинаковых принципах.

О Биткойне в целом

Саму по себе технологию Биткойн я считаю революционной. К сожалению, используется Биткойн слишком часто для криминальных целей, и мне, как специалисту по информационной безопасности, это совсем не нравится. Но если говорить о технологиях, то прорыв налицо.

Все составные части протокола Биткойн и идеи, заложенные в нем, в общем-то, были известны и до 2009 года, но вот слепить все вместе и заставить это работать удалось именно авторам Биткойна и именно в 2009-м. За почти 9 лет в реализации была найдена лишь одна критическая уязвимость: на одном счету злоумышленник получил 92 млрд биткойнов, исправление потребовало отката всей финансовой истории на сутки. Тем не менее всего одна уязвимость за такой срок — это достойный результат, снимаю шляпу.

У авторов Биткойна была задача: заставить это как-то работать при условии, что центра нет и что никто никому не доверяет. Авторы задачу выполнили, электронные деньги функционируют. Но те решения, которые они приняли, чудовищны по своей неэффективности.

Сразу оговорюсь, что цель этого поста — вовсе не дискредитация блокчейна. Это полезная технология, которая уже находит и еще обязательно найдет много замечательных применений. Несмотря на свои недостатки, она имеет и уникальные преимущества. Однако в погоне за сенсационностью и революционностью многие концентрируются на плюсах технологии и зачастую забывают трезво оценивать реальное положение дел, игнорируя минусы. Поэтому я считаю полезным для разнообразия рассмотреть именно недостатки.

Пример книги, в которой автор возлагает на блокчейн большие надежды. Далее по тексту будут цитаты из этой книги

Миф 1: Блокчейн — это гигантский распределенный компьютер

Цитата №1: «Блокчейн может стать «бритвой Оккама», наиболее эффективным, прямым и естественным средством координации всей человеческой и машинной деятельности, соответствующим естественному стремлению к равновесию».

Если вы не вникали в принципы работы блокчейна, а только слышали отзывы об этой технологии, у вас могло сложилось впечатление, что блокчейн — это некий распределенный компьютер, выполняющий, соответственно, распределенные вычисления. Мол, узлы по всему миру собирают по крупицам нечто большее.

О биткоине очень просто

Такое представление в корне ошибочно. В действительности, все узлы, обслуживающие блокчейн, делают ровно одно и то же. Миллионы компьютеров:

1. Проверяют одни и те же транзакции по одним и тем же правилам. Производят идентичную работу.
2. Записывают в блокчейн (если повезло и дали возможность записать) одно и то же.
3. Хранят всю историю за все время, одинаковую, одну на всех.

Никакого распараллеливания, никакой синергии, никакой взаимопомощи. Только дублирование, причем сразу миллионократное. О том, зачем это нужно, мы поговорим ниже, но эффективности, как видите, никакой. Скорее наоборот.

Миф 2: Блокчейн вечен. Все, что в него записано, останется навсегда

Цитата №2: «В условиях распространения децентрализованных приложений, организаций, корпораций и обществ может появиться много новых видов непредсказуемого и сложного поведения, напоминающего искусственный интеллект (ИИ)».

Да, действительно, как мы выяснили, каждый полноценный клиент сети хранит всю историю всех транзакций, и уже набежало более 100 гигабайт данных. Это полный объем диска дешевенького ноутбука или самого современного смартфона. И чем больше транзакций в сети Биткойн совершается, тем быстрее растет объем. Большая часть появилась за последние пару лет.

Рост объема блокчейна. Источник

И Биткойну еще повезло — у его конкурента, сети Ethereum, всего за два года после запуска и полгода активного использования в блокчейне уже набежало 200 гигабайт. Так что в текущих реалиях вечность блокчейна ограничена десятком лет — рост вместимости жестких дисков определенно не поспевает за ростом объема блокчейна.

Но помимо того, что это надо хранить, это надо еще и скачать. Каждый, кто пробовал пользоваться полноценным локальным кошельком для какой-нибудь криптовалюты, с изумлением обнаруживал, что он не может совершать и принимать платежи, пока не скачается и не проверится весь указанный объем. Вам повезет, если этот процесс займет всего пару дней.

Вы спросите, а нельзя ли не хранить это все, раз уж это одно и то же, на каждом узле сети? Можно, но тогда, во-первых, это будет уже не одноранговый блокчейн, а традиционная клиент-серверная архитектура. А во-вторых, тогда клиенты будут вынуждены доверять серверам. То есть идея «не доверять никому», ради которой, в том числе, блокчейн и был придуман, в этом случае пропадает.

Уже давно пользователи Биткойна делятся на энтузиастов, которые «мучаются» и качают все, и на обычных людей, которые пользуются онлайн кошельками, доверяют серверу и которым, в общем-то, все равно, как оно там работает.

Миф 3: Блокчейн эффективен и масштабируем, обычные деньги отомрут

Цитата №3: «Комбинация «блокчейн-технология + персональный коннектом организма» позволит кодировать и делать доступными в стандартизированном сжатом формате все мысли человека. Данные можно будет захватывать путем сканирования коры головного мозга, ЭЭГ, интерфейсов мозг-компьютер, когнитивных нанороботов и т. д. Мышление можно будет представить в виде цепочек блоков, записав в них практически весь субъективный опыт человека и, возможно, даже его сознание. После записи в блокчейн различные составляющие воспоминаний можно будет администрировать и передавать – например, для восстановления памяти в случае болезней, сопровождающихся амнезией».

Если каждый узел сети делает одно и то же, то очевидно, что пропускная способность всей сети равна пропускной способности одного узла сети. И знаете, чему именно она равна? Биткойн может обработать максимум 7 транзакций в секунду — на всех.

Кроме того, в Биткойн-блокчейн транзакции записываются лишь раз в 10 минут. А после появления записи для надежности принято подождать еще 50 минут, потому что записи регулярно самопроизвольно откатываются. А теперь представьте, что вам надо купить за биткойны жвачку. Всего-то часок постоите в магазине, подумаешь.

В рамках целого мира это смешно уже сейчас, когда Биткойном пользуется едва ли каждый тысячный житель на Земле. А при такой скорости проведения транзакций существенно увеличить число активных пользователей и не получится. Для сравнения: Visa обрабатывает тысячи операций в секунду, а при необходимости легко увеличит мощности, ведь классические банковские технологии как раз масштабируемы.

Даже если обычные деньги и отомрут, то явно не потому, что их вытеснят блокчейн-решения.

Миф 4: Майнеры обеспечивают безопасность сети

Цитата №4: «Автономные предприятия в облаке, действующие на базе блокчейна и работающие на основе умных контрактов, могли бы заключать электронные договоры с соответствующими организациями, например, с правительствами, чтобы самостоятельно регистрироваться под любой юрисдикцией, под которой они хотят работать».

Вы наверняка слышали о майнерах, о гигантских майнинг-фермах, которые строят рядом с электростанциями. Что они делают? Они 10 минут впустую жгут электричество, «трясут» блоки, пока те не станут «красивыми» и их можно будет включить в блокчейн (о том, что такое «красивые» блоки и зачем их «трясти», мы рассказывали в предыдущем посте). Это нужно для того, чтобы переписывание финансовой истории занимало столько же времени, сколько и ее написание (при условии, что у вас такая же суммарная мощность).

Электричества тратится столько же, сколько потребляет город на 100 000 жителей. Но добавьте сюда еще и дорогое оборудование, которое подходит исключительно для того, чтобы майнить. Принцип майнинга (так называемый proof-of-work) тождественен понятию «сжигать ресурсы человечества».

Простыми словами: что такое майнинг и куда делиcь все видеокарты

Блокчейн-оптимисты любят говорить, что майнеры не просто делают бесполезную работу, а обеспечивают стабильность и безопасность сети Биткойн. Это правда, вот только проблема в том, что майнеры защищают Биткойн от других майнеров.

Если бы майнеров было в тысячу раз меньше и сжигалось бы в тысячу раз меньше электричества, то Биткойн функционировал бы ничуть не хуже — тот же один блок раз в 10 минут, то же самое количество транзакций, та же скорость.

Применительно к блокчейн-решениям существует риск «атаки 51%». Суть атаки в том, что, если кто-то контролирует больше половины всех майнинг-мощностей, он может скрытно ото всех писать альтернативную финансовую историю, в которой он свои деньги никому не передавал. А потом показать всем свою версию — и именно она станет реальностью. Тем самым он получает возможность тратить свои деньги несколько раз. Традиционные же платежные системы такой атаке не подвержены.

Выходит так, что Биткойн стал заложником собственной идеологии. «Лишние» майнеры не могут перестать майнить, потому что тогда резко увеличится вероятность, что кто-то один будет контролировать больше половины оставшейся мощности. Пока майнить выгодно, сеть стабильна, но, если ситуация изменится (например потому, что электричество подорожает), сеть может столкнуться с массовыми «двойными тратами».

Миф 5: Блокчейн децентрализован и поэтому нерушим

Цитата №5: «Для того чтобы стать полноценной организацией, децентрализованное приложение должно содержать более сложную функциональность, например, конституцию».

Вам возможно кажется, что, раз уж блокчейн хранится на каждом узле сети, то спецслужбы не смогут закрыть Биткойн, если захотят, потому что у него нет какого-то центрального сервера или чего-то типа того — не к кому прийти закрывать. Но это иллюзия.

В действительности все «независимые» майнеры объединены в пулы (по сути, картели). Им приходится объединяться, потому что лучше иметь стабильный, но маленький доход, чем огромный, но раз в 1000 лет.

Распределение мощностей Биткойн по пулам. Источник

Как видите на диаграмме, крупных пулов порядка 20, а всего 4 из них контролируют более 50% всей мощности. Достаточно постучаться в четыре двери и получить доступ к четырем управляющим компьютерам, чтобы у вас в сети Биткойн появилась возможность тратить одни и те же биткойны более одного раза. А такая возможность, как вы понимаете, несколько обесценит биткойн. И эта задача вполне осуществима.

Распределение майнинга по странам. Источник

Но угроза еще реальнее. Большинство пулов вместе с их вычислительными мощностями находятся в одной стране, что упрощает потенциальный захват контроля над Биткойном.

Миф 6: Анонимность и открытость блокчейна — это хорошо

Цитата №6: «В эпоху блокчейна традиционное «правительство 1.0″ во многом становится устаревшей моделью и появляются возможности для перехода от доставшихся нам по наследству структур к более персонализированным формам правления».

Блокчейн открыт, все всё видят. Так что в Биткойне нет анонимности, у него «псевдонимность». Например, если злоумышленник требует выкуп на кошелек, то все понимают, что кошелек принадлежит плохому парню. А поскольку за транзакциями с этого кошелька может следить кто угодно, то воспользоваться полученными биткойнами мошеннику так просто не удастся, ведь стоит где-то раскрыть личность, как его тут же посадят. Почти на всех биржах для обмена на обычные деньги необходимо пройти идентификацию.

Поэтому злоумышленники пользуются так называемым «миксером». Миксер смешивает грязные деньги с большим количеством чистых, и тем самым «отмывает» их. Злоумышленник платит за это большую комиссию и сильно рискует, ведь миксер либо сам анонимный (и может сбежать с деньгами), либо уже под контролем кого-то влиятельного (и может сдать властям).

Но оставим проблемы преступников, чем же псевдонимность плоха для честных пользователей? Вот простой пример: я перевожу маме немного биткойнов. После этого она знает:

1. Сколько у меня всего денег в любой момент времени.
2. Сколько и, главное, на что именно я их тратил за все время. Что я покупал, в какую рулетку играл, какого политика поддерживал «анонимно».

Или если я другу вернул долг за лимонад, то и он теперь знает все о моих финансах. Вы считаете, что это ерунда? А слабо для всех открыть финансовую историю своей кредитной карты? Причем, не только прошлую, но и всю будущую.

Если для физических лиц это еще куда ни шло (ну мало ли, кому-то хочется быть «прозрачным»), то для компаний это смертельно: все их контрагенты, закупки, продажи, клиенты, объем счетов и вообще всё-всё-всё — становится публичным. Открытость финансов — это, пожалуй, один самых больших недостатков Биткойна.

Заключение

Цитата №7: «Не исключено, что именно блокчейн-технологии предстоит стать верхним экономическим слоем органично связанного мира разнообразных вычислительных устройств, в числе которых – носимые вычислительные устройства, сенсоры «интернета вещей».

Я перечислил шесть основных претензий к Биткойну и используемой в ней версии блокчейна. Вы спросите, а почему вы узнали об этом от меня, а не раньше от кого-то другого? Неужели никто не видит проблем?

Кто-то ослеплен, кто-то просто не понимает, как это работает, а кто-то все видит и осознает, но ему просто невыгодно об этом писать. Подумайте сами, многие из тех, кто прикупил биткойнов, начинают их рекламировать и пропагандировать. Эдакая пирамида выходит. Зачем писать, что у технологий есть недостатки, если вы рассчитываете на рост курса?

Да, у Биткойна есть конкуренты, которые попытались решить те или иные проблемы. И хотя некоторые идеи очень хороши, в основе все равно лежит блокчейн. Да, существуют и другие, не денежные применения технологии блокчейн, но ключевые недостатки блокчейна сохраняются и там.

Теперь, если кто-то вам скажет, что изобретение блокчейна сопоставимо по значимости с изобретением Интернета, отнеситесь к этому с изрядной долей скепсиса.

Интернет и подключенные к нему устройства вторгаются в нашу жизнь с каждым днем все сильнее. Мы подчас не замечаем, насколько естественным стало просить Siri, Alexa или Google помочь разобраться с каким-то насущным вопросом. А еще мы доверяем нашу жизнь «умным» автомобилям, надеясь, что они всегда успеют отреагировать на сложившуюся ситуацию на дороге и избежать жертв. Кого-то, конечно, беспокоят возможности современных технологий, например, камеры установленные в общественных местах, которые распознают лица с помощью специального программного обеспечения, но большинство даже не задумываются об этом.

Пока что над ошибками искусственного интеллекта (ИИ) можно и посмеяться, ведь многие из них довольно забавны (главное не думать, что в некоторых случаях существует вероятность смертельного исхода). По мере того как машины развиваются, а зловреды совершенствуются, все может измениться — и станет не до смеха. Но пока мрачное будущее еще не настало, давайте взглянем на некоторые забавные ляпы ИИ.

Фиаско с кукольным домиком

Вот классический пример: новостная программа, вышедшая в Калифорнии в этом году, вызвала что-то наподобие цепной реакции. Реакция возникла из-за просчета ИИ, возникшего по причине другого просчета ИИ. Если кратко, то дело было так: рассказанная в эфире новость о том, что устройство Amazon Echo по ошибке заказало кукольный домик, спровоцировала множество других устройств Amazon Echo (которые, как обычно, внимательно все слушали и не отличали голос владельца от других голосов) заказать еще «немного» кукольных домиков. Пожалуй не стоит смотреть это видео с записью репортажа из дома – вдруг какой-нибудь из ваших умных помощников тоже сочтет его указанием к действию.

• Здесь вы можете прочитать подробнее об Amazon Echo и истории с кукольными домиками.

Фастфуд и его ошибка

Компания Burger King попыталась использовать описанную выше, скажем так, особенность «умных помощников» в своих интересах и активировать голосом устройства тех, кто смотрел рекламу. Ей это удалось – в какой-то мере. Проблема в том, что в расчет не был принят поведенческий фактор: реклама провоцировала устройства Google Home искать «воппер» в «Википедии», и в результате Burger King прямо напросилась на то, чтобы пользователи слегка «обновили» статью о «вопперах». Что, собственно, они и сделали.

Конфуз Cortana

Разумеется, не только голосовой помощник Microsoft ошибается — у Siri, голосового помощника в устройствах Apple, есть целый раздел на Reddit, посвященный ее промахам, да и про Google Assistant давно уже собрана куча забавных ляпов. Но ведь всегда смешно, когда новые функции, которые как раз представляют публике, работают не так, как это задумали разработчики. В примере на видео ниже, судя по всему, Cortana не воспринимала неамериканский акцент — или же быстрая живая речь сбивала помощника с толку.

Обман системы распознавания лиц

Вряд ли друзья вас не узнают, если вы наденете необычные или забавные очки, а вот с «умными» устройствами это работает на раз-два. Команда исследователей из Университета Карнеги — Меллона доказала, что такого незначительного аксессуара может оказаться достаточно, чтобы машина воспринимала вас как совершенно другого человека. Самое забавное, что исследователи умудрились не только обхитрить систему распознавания лиц, но и выдать себя за других людей, добавляя определенный рисунок на оправу очков.

Исследователям удалось выдавать себя друг за друга и за знаменитостей

• Подробнее об этом рассказано в статье The Guardian.
• А вот и оригинал исследования.

Полный провал с дорожными знаками

Ну а что с распознаванием дорожных знаков у автономных автомобилей? Насколько тут все плохо с машинным обучением? Настолько же. Другая группа исследователей доказала, что система распознавания дорожных знаков также склонна ошибаться. Небольшие изменения, которые вообще не смутят человека, заставили систему машинного обучения классифицировать знак «СТОП» как «Ограничение скорости 45 миль/час». И это не простая случайность — ошибка возникала в 100% случаев при проведении испытаний.

Машинное обучение распознало три первых слегка измененных изображения как «ограничение скорости 45 миль/час», а последний — как «СТОП»

• Тут вы можете прочитать подробнее об ошибках в распознавании дорожных знаков.
• А вот тут находится само исследование.

Невидимая панда

Насколько нужно исказить вводные данные, чтобы одурачить машинное обучение? Удивительно, но достаточно совсем незначительного изменения. Человек почти не видит разницы между двумя фотографиями, приведенными ниже, в то время как машина уверена в том, что на фотографиях два разных объекта — панда и гиббон (любопытно, что шумовое пятнышко, добавленное в оригинальную фотографию, машина распознала как круглого червя).

• Тут вы можете прочитать об этом подробнее.
• Ни и само исследование, конечно же.

Тэй, гроза человечества

Целью эксперимента Microsoft с чатботом Tay.ai, наделенным ИИ, было собственно создание бота, в разговоре подражающего девушке-подростку, и обучение этого бота на основе взаимодействия с ним в соцсети. Оказалось, что мы, люди – настоящие монстры: помимо всего прочего, Тэй, пообщавшись с людьми, быстро превратилась в нациста. ИИ, конечно, может самообучаться, но качество и особенности этого обучения зависят от информации, которую он получает от человека.

• Тут вы можете прочитать о приключениях Tay.ai.

Самый опасный (и, возможно, самый известный) промах был допущен автомобилем Tesla — но мы не можем винить в этом встроенный ИИ. Несмотря на то, что он называется «автопилот», он не предназначен для того, чтобы полностью контролировать вождение. В ходе расследования аварии обнаружилось, что водитель вел себя неподобающим образом – игнорировал предупреждения о том, что его руки не находились на руле, устанавливал скорость круиз-контроля выше разрешенной и не предпринимал никаких действий в течение более чем 7 секунд после того, как грузовик был явно виден на дороге. Все это и привело к смерти водителя.

В теории, автопилот мог бы предотвратить эту аварию, приняв в расчет такие факторы, как видимое по контрасту расположение грузовика на дороге. Но на данный момент понятно только то, что ИИ попросту не вышел за пределы своих возможностей, – ничего подобного мы от программ пока и требовать не можем.

В конечном счете, даже применение машинного обучения, за счет которого программа становится умнее со временем, не может приблизить искусственный интеллект к человеческому. Машинное обучение стремительно, логично и неутомимо, но ему необходимы человеческая интуиция и сообразительность.

Вот почему наша концепция HuMachine сочетает в себе лучшее их этих двух миров: она берет очень быстрый и педантичный искусственный интеллект, созданный с помощью передовых методов программирования, и дополняет его опытом и человеческим умом высококлассных специалистов по кибербезопасности, борющихся со зловредами и поддерживающих безопасность работы потребительских, корпоративных и инфраструктурных систем.

Если вам интересно узнать, как выглядит ближайшее будущее автомобилей, то одно из лучших мест для этого — Франкфуртский автосалон. Это крупнейшая в мире и центральная для немецкого автопрома выставка, полное название которой звучит как Internationale Automobil-Ausstellung, сокращенно — IAA.

Aspark Owl — самый быстрый автомобиль в мире?

Если вы никогда не слышали об Aspark Owl — это нормально. До Франкфуртского автосалона о существовании этого суперкара не знал никто, кроме его создателей, так что его премьера стала для всех сюрпризом.

Aspark Owl: от 0 до 100 км/ч — за 2 секунды

Это полностью электрический суперкар (в нем использовано сочетание батареи и суперконденсаторов), который, по заявлениям разработчиков, является самым быстрым в мире: от 0 до 100 км/ч эта машина разгоняется ровно за две секунды. Это на несколько десятых секунды быстрее предыдущих рекордсменов — Ultima Evolution Coupé, Dodge Challenger SRT Demon и Tesla Model S P100D.

Кузов Aspark Owl полностью сделан из углепластика и весит всего 50 килограммов. А весь автомобиль весит 850 килограммов — вдвое меньше, чем, к примеру, Lamborghini Aventador.

Высота Aspark Owl — всего 99 см

Максимальная скорость в 280 км/ч сравнительно невысока по меркам суперкаров, но очень неплоха для электромобилей: самая быстрая Tesla умеет разгоняться лишь до 250 км/ч). А вот запас хода у Aspark Owl невелик — 150 километров. На стенде Aspark во Франкфурте можно было оформить предзаказ, но цена и время появления автомобиля в продаже пока неизвестны.

Audi A8: первый беспилотный автомобиль 3 уровня

На IAA 2017 компания Audi представила свой новый флагманский седан — A8. Помимо всего прочего, лимузин обладает продвинутым автопилотом. Это первый в мире серийный автомобиль, в котором, помимо уже привычных камер и сонаров, использован лидар. Кроме того, по заявлениям Audi, A8 — первый в мире серийный беспилотный автомобиль 3 уровня по классификации сообщества автомобильных инженеров (SAE).

Новая Audi A8, оснащенная самым продвинутым автопилотом на сегодняшний день

Это означает, что при соблюдении определенных условий — в данном случае это перемещение на скоростях до 60 км/ч — водитель может не контролировать процесс, и отвлекаться на просмотр фильмов, переписку в смартфоне и так далее. До сих пор наиболее продвинутыми серийными беспилотными автомобилями были Tesla, но они принадлежат к классу 2 — то есть водитель должен всегда следить за дорогой и быть готовым взять управление на себя в любой момент.

Audi A8: кнопка включения автопилота расположена прямо перед ручкой коробки передач

Столь продвинутый уровень беспилотного вождения в новой Audi A8 обеспечивают технологии NVIDIA. Всего в автомобиле используется 6 процессоров NVIDIA, которые помимо продвинутого автопилота, отвечают также за панель приборов, развлекательную систему, навигацию и так далее.

Qualcomm Halo: беспроводная зарядка автомобиля

На самом деле технология беспроводной зарядки автомобилей в портфолио компании Qualcomm существует уже достаточно давно. Но есть надежда, что в скором будущем она таки выберется за пределы прототипов и концептов и попадет в серийные автомобили: сразу два немецких автогиганта обещают оснастить этой функцией свои модели в будущем году. У BMW беспроводная зарядка должна появиться в подключаемом гибриде 530e, а Daimler обещает встроить ее в свой флагманский гибрид Mercedes S560e.

Кроме того, Qualcomm уже работает над следующим поколением беспроводных зарядок для авто, позволяющим заряжать батареи прямо на ходу, причем речь идет о высоких скоростях, характерных для автомагистралей.

Технология уже тестируется в рамках финансируемого Европейской комиссией проекта FABRIC. Этот проект исследует перспективы создания шоссе со встроенной зарядкой, позволяющей пополнять заряд аккумулятора прямо на ходу — одного из возможных способов справиться с ограниченной емкостью аккумуляторов.

Беспилотная парковка: сотрудничество Valeo и Cisco

До полноценных беспилотных автомобилей, позволяющих водителю вообще никогда не вмешиваться в процесс вождения, по всей видимости, еще далеко. Искусственный интеллект все еще слишком часто ошибается, а соответствующей дорожной инфраструктуры, «страхующей» алгоритмы распознавания, пока нет. К тому же до сих пор не очень ясно, что делать с этическими дилеммами (см. «проблема вагонетки») и юридической стороной вопроса, а в странах с суровым климатом все это осложняется еще и тем, что зимой частенько не видно не то что разметки и знаков — даже обочину не особенно различишь. В общем, проблем куча. Их постепенно будут решать, но это займет какое-то время.

А вот где автопилот может пригодиться уже сейчас — это на парковке. И в первую очередь речь идет о многоуровневых парковочных комплексах, по которым вечно приходится нарезать круги в поисках свободного места и тратить на это уйму времени.

Скорости на парковке минимальные, «карта местности» строго определена, пешеходов сравнительно немного — все условия для безопасной и эффективной работы даже несовершенного автопилота выполнены. Заодно пригодится способность компьютера быстро строить маршрут, связавшись с «диспетчерским центром» парковки и узнав, где есть свободные места.

Вполне может быть, что умные парковки, позволяющие оставить автомобиль у въезда и пойти по своим делам, появятся уже достаточно скоро — по крайней мере партнерство компаний Valeo и Cisco дает повод для надежды на это. В рамках этого партнерства Valeo занимается автопилотами на стороне автомобиля, а Cisco предоставляет инфраструктуру, установленную на умной парковке, — связь, систему видеонаблюдения, «диспетчерскую» и так далее.

Amazon Alexa в автомобилях SEAT и BMW

В идеале, водителю никогда не стоит отвлекаться от дороги — чтобы, например, позвонить или переключить радио. Поэтому автомобиль — это, пожалуй, единственный «гаджет», в котором голосовой интерфейс может быть не просто приятным дополнением, а действительно полезной и даже необходимой штукой. Однако сделать хорошо работающий голосовой интерфейс мало кому под силу. По большому счету, это действительно удалось только четырем компаниям: Apple, Google, Amazon и Microsoft. Вероятно, идеальным решением было бы заключить партнерство с одной из этих компаний.

Именно так и поступили в Volkswagen AG, начав сотрудничество с Amazon. В качестве бренда для обкатки выбран испанский SEAT — самая молодежная из марок, принадлежащих немецкому автогиганту.

Amazon Alexa появится до конца года в моделях Leon и Ateca. Чуть позже данная функция придет в хэтчбэк Ibiza, а также в дебютировавший на IAA 2017 компактный кроссовер SEAT Arona. Обещают, что софт голосового помощника будет специально оптимизирован для работы в автомобилях.

Также о своем намерении встроить Alexa в свои автомобили заявила компания BMW — баварцы обещают добавить поддержку голосового помощника Amazon во все модели BMW и MINI, начиная со второй половины 2018 года.

К сожалению, воспользоваться данным нововведением можно будет только на английском и немецком — другие языки Alexa пока не понимает.

Бортовые сети в автомобилях будущего

Бортовая сеть автомобиля — очень сложная и ветвистая штука. Для пользователя это совершенно неочевидно, поскольку и сама сеть, и большинство подключенных к ней электронных компонентов всегда максимально аккуратно скрыты от глаза человека. А вот на стенде компании EDAG можно было посмотреть, как сеть выглядит «изнутри»:

Так бортовая сеть автомобиля выглядит сейчас

Сейчас общая масса одних только проводов в автомобиле может доходить до 50 килограммов! И это не предел, ведь в машинах будет появляться все больше и больше электроники, которой потребуется все больше и больше обвязки. Поэтому уже пора думать о том, как можно снизить количество проводов и в целом сделать сеть более упорядоченной.

EDAG предлагает новый подход: автомобиль делится на несколько зон, каждой из которых заведует свой электронный контроллер, а уже к этим контроллерам зон подключается то или иное оборудование. Зоны связаны между собой по быстрому и «легкому» Ethernet, специально адаптированному для использования в автомобиле. А отдельные компоненты подключаются к контроллерам зон по шине LIN, разработанной (и уже используемой) в качестве недорогой (но не очень быстрой) альтернативы шины CAN.

А вот так, по мнению EDAG, бортовая сеть будет выглядеть в автомобилях ближайшего будущего

В несколько более отдаленном будущем архитектура бортовой сети станет еще более упорядоченной и централизованной. Во главе окажутся два центральных бортовых компьютера, к одному из которых будут подключены контроллеры зон левой стороны автомобиля, а к другому — правой. Эти хабы будут связаны гигабитным каналом.

Защита автомобиля от киберугроз

Современный автомобиль — это более сотни отдельных электронных устройств, объединенных в сеть. По сути, это компьютерная сеть на колесах, по количеству устройств примерно эквивалентная не самому маленькому офису. И, разумеется, с подключением к Интернету — судя по всему, не подключенных автомобилей уже в самом ближайшем будущем просто не останется, за исключением разве что самых доступных моделей.

Слова «connected» и «connectivity» встречались на IAA 2017, пожалуй, чаще любых других. А вот слово «security» почему-то почти не встречалось. Несмотря на очевидность проблемы, пока что о ней мало говорят

Что отличает бортовую сеть автомобиля от офисной? Во-первых, отсутствие IT-отдела, который следил бы за исправной работой сети. Во-вторых — отсутствие даже таких привычных для IT-инфраструктуры средств обеспечения безопасности, как межсетевые экраны и защитное ПО на конечных устройствах.

За последние несколько лет угрозы взлома автомобилей окончательно перешли из теории в практику: мы видели немало примеров того, как хакеры могут взломать автомобиль, используя его подключение к Ин-тернету (и эти десять примеров — далеко не полный список). Если какие-то марки или модели еще не взламывали, то, скорее всего, потому, что у хакеров пока не дошли руки.

Проблема в том, что кибербезопасность не закладывается в архитектуру автомобиля изначально. Автопроизводителям пока не хватает опыта, чтобы учесть все возможные киберугрозы и включить все процессы, необходимые для предотвращения киберинцидентов, в свой рабочий процесс. Они тестируют безопасность отдельных компонентов, но не думают о защите бортовой сети автомобиля как целого.

Secure Communication Unit — результат партнерства «Лаборатории Касперского» и AVL

Очевидно, что подход должен поменяться — и мы готовы в этом помочь, ведь у нас есть громадный опыт в сфере IT-безопасности. «Лаборатория Касперского» заключила партнерство с компанией AVL, специализирующейся на оборудовании для автоиндустрии, и вместе с ней мы создали Secure Communication Unit. Это устройство работает на основе нашей безопасной KasperskyOS и обеспечивает безопасность входящих и исходящих коммуникаций подключенного автомобиля.

Мы приглашаем к сотрудничеству все заинтересованные компании — задуматься о безопасности автомобилей пора всем участникам рынка.

Искусственный интеллект врывается в нашу жизнь. В будущем, наверное, все будет классно, но пока возникают кое-какие вопросы, и все чаще эти вопросы затрагивают аспекты морали и этики. Какие сюрпризы преподносит нам машинное обучение уже сейчас? Можно ли обмануть машинное обучение, а если да, то насколько это сложно? И не закончится ли все это Скайнетом и восстанием машин? Давайте разберемся.

Разновидности искусственного интеллекта: Сильный и Слабый ИИ

Для начала стоит определиться с понятиями. Есть две разные вещи: Сильный и Слабый ИИ. Сильный ИИ (true, general, настоящий) — это гипотетическая машина, способная мыслить и осознавать себя, решать не только узкоспециализированные задачи, но еще и учиться чему-то новому.

Слабый ИИ (narrow, поверхностный) — это уже существующие программы для решения вполне определенных задач: распознавания изображений, управления автомобилем, игры в Го и так далее. Чтобы не путаться и никого не вводить в заблуждение, Слабый ИИ обычно называют «машинным обучением» (machine learning).

Про Сильный ИИ еще неизвестно, будет ли он вообще изобретен. Судя по результатам опроса экспертов, ждать еще лет 45. Правда, прогнозы на десятки лет вперед — дело неблагодарное. Это по сути означает «когда-нибудь». Например, рентабельную энергию термоядерного синтеза тоже прогнозируют через 40 лет — и точно такой же прогноз давали и 50 лет назад, когда ее только начали изучать.

Машинное обучение: что может пойти не так?

Если Сильного ИИ ждать еще непонятно сколько, то Слабый ИИ уже с нами и вовсю работает во многих областях народного хозяйства.

И таких областей с каждым годом становится все больше и больше. Машинное обучение позволяет решать практические задачи без явного программирования, а путем обучения по прецедентам. Подробнее вы можете почитать в статье «Простыми словами: как работает машинное обучение».

Поскольку мы учим машину решать конкретную задачу, то полученная математическая модель — так называется «обученный» алгоритм — не может внезапно захотеть поработить (или спасти) человечество. Так что со Слабым ИИ никакие Скайнеты, по идее, нам не грозят: алгоритм будет прилежно делать то, о чем его попросили, а ничего другого он все равно не умеет. Но все-таки кое-что может пойти не так.

1. Плохие намерения

Начать с того, что сама решаемая задача может быть недостаточно этичной. Например, если мы при помощи машинного обучения учим армию дронов убивать людей, результаты могут быть несколько неожиданными.

Как раз недавно по этому поводу разгорелся небольшой скандал. Компания Google разрабатывает программное обеспечение, используемое для пилотного военного проекта Project Maven по управлению дронами. Предположительно, в будущем это может привести к созданию полностью автономного оружия.

Так вот, минимум 12 сотрудников Google уволились в знак протеста, еще 4000 подписали петицию с просьбой отказаться от контракта с военными. Более 1000 видных ученых в области ИИ, этики и информационных технологий написали открытое письмо с просьбой к Google прекратить работы над проектом и поддержать международный договор по запрету автономного оружия.

2. Предвзятость разработчиков алгоритма

Даже если авторы алгоритма машинного обучения не хотят приносить вред, чаще всего они все-таки хотят извлечь выгоду. Иными словами, далеко не все алгоритмы работают на благо общества, очень многие работают на благо своих создателей. Это часто можно наблюдать в области медицины — важнее не вылечить, а порекомендовать лечение подороже.

На самом деле иногда и само общество не заинтересовано в том, чтобы полученный алгоритм был образцом морали. Например, есть компромисс между скоростью движения транспорта и смертностью на дорогах. Можно запрограммировать беспилотные автомобили так, чтобы они ездили со скоростью не более 20 км/ч. Это позволило бы практически гарантированно свести количество смертей к нулю, но жить в больших городах стало бы затруднительно.

3. Параметры системы могут не включать этику

По умолчанию компьютеры не имеют никакого представления о том, что такое этика. Представьте, что мы просим алгоритм сверстать бюджет страны с целью «максимизировать ВВП / производительность труда / продолжительность жизни» и забыли заложить в модель этические ограничения. Алгоритм может прийти к выводу, что выделять деньги на детские дома / хосписы / защиту окружающей среды совершенно незачем, ведь это не увеличит ВВП — по крайней мере, прямо.

И хорошо, если алгоритму поручили только составление бюджета. Потому что при более широкой постановке задачи может выйти, что самый выгодный способ повысить среднюю производительность труда — это избавиться от всего неработоспособного населения.

Выходит, что этические вопросы должны быть среди целей системы изначально.

4. Этику сложно описать формально

С этикой одна проблема — ее сложно формализовать. Во-первых, этика довольно быстро меняется со временем. Например, по таким вопросам, как права ЛГБТ и межрасовые / межкастовые браки, мнение может существенно измениться за десятилетия.

Во-вторых, этика отнюдь не универсальна: она отличается даже в разных группах населения одной страны, не говоря уже о разных странах. Например, в Китае контроль за перемещением граждан при помощи камер наружного наблюдения и распознавания лиц считается нормой. В других странах отношение к этому вопросу может быть иным и зависеть от обстановки.

Также этика может зависеть от политического климата. Например, борьба с терроризмом заметно изменила во многих странах представление о том, что этично, а что не очень — и произошло это невероятно быстро.

5. Машинное обучение влияет на людей

Представьте систему на базе машинного обучения, которая советует вам, какой фильм посмотреть. На основе ваших оценок другим фильмам и путем сопоставления ваших вкусов со вкусами других пользователей система может довольно надежно порекомендовать фильм, который вам очень понравится.

Но при этом система будет со временем менять ваши вкусы и делать их более узкими. Без системы вы бы время от времени смотрели и плохие фильмы, и фильмы непривычных жанров. А так, что ни фильм — то в точку. В итоге вы перестаете быть «экспертами по фильмам», а становитесь только потребителем того, что дают.

Интересно еще и то, что мы даже не замечаем, как алгоритмы нами манипулируют. Пример с фильмами не очень страшный, но попробуйте подставить в него слова «новости» и «пропаганда»…

6. Ложные корреляции

Ложная корреляция — это когда не зависящие друг от друга вещи ведут себя очень похоже, из-за чего может возникнуть впечатление, что они как-то связаны. Например, потребление маргарина в США явно зависит от количества разводов в штате Мэн, не может же статистика ошибаться, правда?

Конечно, живые люди на основе своего богатого жизненного опыта подозревают, что маргарин и разводы вряд ли связаны напрямую. А вот математической модели об этом знать неоткуда, она просто заучивает и обобщает данные.

Известный пример: программа, которая расставляла больных в очередь по срочности оказания помощи, пришла к выводу, что астматикам с пневмонией помощь нужна меньше, чем людям с пневмонией без астмы. Программа посмотрела на статистику и пришла к выводу, что астматики не умирают, поэтому приоритет им незачем. А на самом деле такие больные не умирали потому, что тут же получали лучшую помощь в медицинских учреждениях в связи с очень большим риском.

7. Петли обратной связи

Хуже ложных корреляций только петли обратной связи. Это когда решения алгоритма влияют на реальность, что, в свою очередь, еще больше убеждает алгоритм в его точке зрения.

Например, программа предупреждения преступности в Калифорнии предлагала отправлять больше полицейских в черные кварталы, основываясь на уровне преступности — количестве зафиксированных преступлений. А чем больше полицейских машин в квартале, тем чаще жители сообщают о преступлениях (просто есть кому сообщить), чаще сами полицейские замечают правонарушения, больше составляется протоколов и отчетов, — в итоге формально уровень преступности возрастает. Значит, надо отправить еще больше полицейских, и далее по нарастающей.

8. «Грязные» и «отравленные» исходные данные

Результат обучения алгоритма сильно зависит от исходных данных, на основе которых ведется обучение. Данные могут оказаться плохими, искаженными — это может происходить как случайно, так и по злому умыслу (в последнем случае это обычно называют «отравлением»).

Вот пример неумышленных проблем с исходными данными: если в качестве обучающей выборки для алгоритма по найму сотрудников использовать данные, полученные из компании с расистскими практиками набора персонала, то алгоритм тоже будет с расистским уклоном.

В Microsoft однажды учили чат-бота общаться в Twitter’е, для чего предоставили возможность побеседовать с ним всем желающим. Лавочку пришлось прикрыть менее чем через сутки, потому что набежали добрые интернет-пользователи и быстро обучили бота материться и цитировать «Майн Кампф».

Пример умышленного отравления машинного обучения: в лаборатории по анализу компьютерных вирусов математическая модель ежедневно обрабатывает в среднем около миллиона файлов, как чистых, так и вредоносных. Ландшафт угроз постоянно меняется, поэтому изменения в модели в виде обновлений антивирусных баз доставляются в антивирусные продукты на стороне пользователей.

Злоумышленник может постоянно генерировать вредоносные файлы, очень похожие на какой-то чистый, и отправлять их в лабораторию. Граница между чистыми и вредоносными файлами будет постепенно стираться, модель будет «деградировать». И в итоге модель может признать оригинальный чистый файл зловредом — получится ложное срабатывание.

Поэтому в «Лаборатории Касперского» многоуровневый подход к защите: мы не полагаемся только на машинное обучение, живые люди — антивирусные эксперты — обязательно присматривают за тем, что делает машина.

9. Взлом машинного обучения

Отравление — это воздействие на процесс обучения. Но обмануть можно и уже готовую, исправно работающую математическую модель, если знать, как она устроена. Например, группе исследователей удалось научиться обманывать алгоритм распознавания лиц с помощью специальных очков, вносящих минимальные изменения в картинку и тем самым кардинально меняющих результат.

Надев специально раскрашенные очки, исследователи смогли обманывать алгоритм распознавания лиц и выдавать себя за других людей

Даже там, где, казалось бы, нет ничего сложного, машину легко обмануть неведомым для непосвященного способом.

Первые три знака распознаются как «Ограничение скорости 45», а последний — как знак «STOP»

Причем для того, чтобы математическая модель машинного обучения признала капитуляцию, необязательно вносить существенные изменения — достаточно минимальных, невидимых человеку правок.

Если к панде слева добавить минимальный специальный шум, то получим гиббона с потрясающей уверенностью

Пока человек умнее большинства алгоритмов, он может обманывать их. Представьте себе, что в недалеком будущем машинное обучение будет анализировать рентгеновские снимки чемоданов в аэропорту и искать оружие. Умный террорист сможет положить рядом с пистолетом фигуру особенной формы и тем самым «нейтрализовать» пистолет.

Кто виноват и что делать

В 2016 году Рабочая группа по технологиям больших данных при администрации Обамы выпустила отчет, предупреждающий о том, что в алгоритмы, принимающие автоматизированные решения на программном уровне, может быть заложена дискриминация. Также в отчете содержался призыв создавать алгоритмы, следующие принципу равных возможностей.

Но сказать-то легко, а что же делать? С этим не все так просто.

Во-первых, математические модели машинного обучения тяжело тестировать и подправлять. Если обычные программы мы читаем по шагам и научились их тестировать, то в случае машинного обучения все зависит от размера контрольной выборки, и она не может быть бесконечной.

К примеру, приложение Google Photo распознавало и помечало людей с черным цветом кожи как горилл. И как быть? За три года Google не смогли придумать ничего лучше, чем запретить помечать вообще любые объекты на фотографиях как гориллу, шимпанзе и обезьяну, чтобы не допускать повторения ошибки.

Во-вторых, нам сложно понять и объяснить решения машинного обучения. Например, нейронная сеть как-то расставила внутри себя весовые коэффициенты, чтобы получались правильные ответы. А почему они получаются именно такими и что сделать, чтобы ответ поменялся?

Исследование 2015 года показало, что женщины гораздо реже, чем мужчины, видят рекламу высокооплачиваемых должностей, которую показывает Google AdSense. Сервис доставки в тот же день от Amazon зачастую недоступен в черных кварталах. В обоих случаях представители компаний затруднились объяснить такие решения алгоритмов.

Винить вроде бы некого, остается принимать законы и постулировать «этические законы робототехники». В Германии как раз недавно, в мае 2018 года, сделали первый шаг в этом направлении и выпустили свод этических правил для беспилотных автомобилей. Среди прочего, в нем есть такие пункты:

• Безопасность людей — наивысший приоритет по сравнению с уроном животным или собственности.
• В случае неизбежной аварии не должно быть никакой дискриминации, ни по каким факторам недопустимо различать людей.

Но что особенно важно в нашем контексте:

• Автоматические системы вождения становятся этическим императивом, если системы вызывают меньше аварий, чем водители-люди.

Очевидно, что мы будем все больше и больше полагаться на машинное обучение — просто потому, что оно в целом будет справляться со многими задачами лучше людей. Поэтому важно помнить о недостатках и возможных проблемах, стараться все предусмотреть на этапе разработки систем — и не забывать присматривать за результатом работы алгоритмов на случай, если что-то все же пойдет не так.

Сегодня люди все чаще опасаются, что информационные технологии (и особенно искусственный интеллект) оставят их без работы — совсем как когда-то луддиты в Англии. Однако молодежь эти печальные перспективы тревожат гораздо меньше: 40% опрошенных нами студентов считает, что готовятся работать по профессии, которой пока еще даже не существует.

Итак, какие же специальности могут появиться буквально со дня на день? Вот несколько предположений.

• Удаленный хирург. Хирургам больше не придется физически присутствовать в операционной: они будут удаленно управлять интеллектуальными машинами, не прикасаясь к пациентам даже пальцем.
• Специалист по взаимодействию между людьми и роботами. Роботы будут все чаще работать плечом к плечу с людьми, а значит, их нужно будет учить распознавать оттенки наших эмоций. Конечно, людям тоже потребуется разбираться в том, как мыслят роботы.
• AR-архитектор. Это не новая профессия, а скорее эволюция древней специальности зодчего. Архитекторы смогут создавать версии своих работ в дополненной реальности: такие проекты станут подспорьем при строительстве и помогут заказчикам визуализировать будущие здания.
• Разработчик умных домов. Дома перестанут быть просто коробками, в которых мы спим и храним вещи. Разработчики умных домов начнут создавать целые технологические экосистемы, индивидуально настроенные под привычки, потребности и особенности своего владельца и его семьи.
• Дизайнеры одежды, распечатываемой на 3D-принтере. Трехмерная печать будет все более доступной и популярной, так что скоро магазины одежды могут стать пережитком прошлого. Благодаря 3D-принтерам новые образы и фасоны будут появляться как грибы после дождя.

Станут ли эти профессии реальностью? Подождем немного и узнаем. Но одно можно сказать уже сейчас: чем больше люди будут полагаться на умные устройства (автомобили, смартфоны и даже дома), тем выше будет потребность в специалистах по кибербезопасности.

Поэтому «Лаборатория Касперского» учредила Secur’IT Cup — соревнование в умении адаптироваться к стремительно меняющемуся миру и оперативно решать проблемы кибербезопасности, которые ставят перед нами новые технологии. Участвовать в конкурсе можно бесплатно, а главный приз составляет $10 000.

Вот что про это говорит Евгений Касперский: «Кибербезопасность сегодня невероятно важна и станет только важнее, когда развитие информационных технологий приведет к появлению всех этих новых рабочих мест. Кибербезопасность во всех ее проявлениях — от защиты пациентов до охраны людей от спятившего искусственного интеллекта — нужно учитывать при организации любых технологических процессов. Ведь злоумышленники не остановятся и продолжат разыскивать лазейки, появляющиеся с ростом числа подключенных устройств. Сейчас в нашем секторе острая нехватка специалистов, поэтому я призываю сегодняшних студентов и школьников присмотреться к этой важной и многообещающей отрасли».

Узнать больше о конкурсе и подать заявку на участие можно на веб-сайте Secur’IT Cup.

Перефразирую известный философский постулат: «профессия определяет бытие или бытие определяет профессию?». Рассказывают, что заруба по поводу ответа на этот (точнее, оригинальный) вопрос в философских кругах идёт уже полторы сотни лет, а с изобретением интернетов и в широких народных массах, регулярно охватывая неистовым холиваром разные слои сетевого населения в неожиданных концах мира. Я не претендую на поддержку какой-либо стороны, но хочу свидетельствовать личным опытом в пользу дуализма профессии и бытия, которые влияют друг на друга взаимно, многогранно и постоянно.

В конце далёких восьмидесятых компьютерная вирусология возникла как ответ на распространение вредоносных программ. Через 30+ лет вирусология эволюционировала (точнее, слилась в экстазе с другими смежными отраслями) в индустрию кибербезопасности и зачастую диктует развитие бытия IT – в условиях конкуренции выживает технология с лучшей защитой.

За 30 лет как только нас не обзывали: санитары леса, патологоанатомы, бактериологический кордон… ассенизаторами тоже приходилось 🙂 Но лучше всего, имхо, специфику нашей профессии и её связь с бытием на данном этапе характеризует мем «киберпалеонтолог».

Действительно, индустрия научилась бороться с массовыми эпидемиями: проактивно (как мы защитили пользователей от крупнейших эпидемий последних дцати лет Wannacry и ExPetr) или реактивно (при помощи облачного анализа и быстрой рассылки обновлений) — не суть разница. А вот с точечными, целевыми кибератаками пока что не очень: по технической зрелости и ресурсам с ними справляются единицы, а по принципиальной позиции разоблачать всех кибернегодяев вне зависимости от происхождения и целей воля есть, пожалуй, только у нас. И это немудрено – иметь такую волю дорого стОит, это непростая позиция в современном геополитическом шторме, но наш опыт показывает, что это правильная позиция — пользователь голосует за неё кошельком .

Кибершпионская операция – очень долгий, дорогостоящий и высокотехнологический проект. Разумеется, авторы таких операций сильно расстраиваются, когда их палят и есть мнение, что они пытаются устранить неугодных разработчиков разными грязными методами через манипуляции СМИ.

Но есть и другие мнения «откуда ноги растут», в том числе:

Впрочем, я отвлёкся.

Так вот: такие операции, бывает, остаются незамеченными многие годы. Авторы берегут свои инвестиции «прелести»: атакуют только единицы избранных, тщательно тестируются на популярных защитных решениях, оперативно меняют тактику и т.д. Пожалуй, многообразие раскрытых целевых атак – это всего лишь верхушка айсберга. И единственный эффективный способ выявления таких атак – киберпалеонтология, т.е. длительный, скрупулёзный сбор данных для построения «большой картины», сотрудничество с экспертами из других компаний, выявление и анализ аномалий, разработка технологий защиты.

В киберпалеонтологии выделяются два основных направления: ad-hoc исследования (случайно нашли что-то подозрительное, ухватились за хвост, а там…) и системные операционные исследования (процесс планомерного анализа корпоративного IT-ландшафта).

Преимущества операционной киберпалеонтологии высоко ценят крупные организации (как государственные, так и коммерческие), против которых в первую очередь и направлены целевые атаки. Однако не у каждой организации есть возможности, воля и способности: профильные специалисты сродни живым динозаврам – они редки и дороги 🙂 А у нас их целый зоопарк есть! Несколько команд аналитиков (в том числе GReAT и Threat Research) – профессиональные киберпалеонтологи с внушительным стажем и мировым именем. Посему недавно, совместив наши возможности с желаниями заказчиков, в лучших традициях закона спроса и предложения мы вывели на рынок новый сервис – Kaspersky Managed Protection (подробнее здесь).

Kaspersky Managed Protection – это, по сути, аутсорсинг киберпалеонтологических функций.

Облачный сервис (i) собирает метаданные сетевой и системной активности, которые потом (ii) агрегируются с данными облака KSN и анализируются умными системами и киберпалеонтологами экспертами (реализация подхода HuMachine на практике).

Особенность первого этапа состоит в том, что Kaspersky Managed Protection не требует установки дополнительных сенсоров для сбора метаданных. Сервис работает совместно с уже установленными продуктами (в частности Kaspersky Endpoint Security и Kaspersky Anti Targeted Attack Platfort, а в перспективе — продуктами и других разработчиков) и на основе их телеметрии проводит анализ, ставит диагноз и прописывает лечение.

А самое интересное скрывается на втором этапе.

Итак, у сервиса «на руках» есть гигабайты сырой телеметрии от разных сенсоров: события операционной системы, поведение процессов и их сетевое взаимодействие, активность системных служб и приложений, вердикты защитных продуктов (включая неточные поведенческие детекты, IDS, «песочницу», репутацию объектов, Yara-правила)… Ага, голова уже кругом пошла? Однако при грамотной обработке из этого хаоса можно выжать используемые техники и по этой ниточке выйти на целевую атаку.

На этом этапе для отделения мух от котлет 🙂 мы используем патентованную технологию облачного выявления, расследования и устранения целевых атак. Сначала полученная телеметрия автоматически размечается KSN в зависимости от популярности объектов, принадлежности к той или иной группе, совпадения с известными угрозами и многих других параметров. Иными словами, мы просеиваем грунт с места раскопок, фильтруем шлак, а на всё полезное вешаем специальные метки.

Далее метки автоматически обрабатывает корреляционный механизм с машинным обучением, который выдвигает гипотезы о потенциальной кибератаке. Говоря языком палеонтологов, мы изучаем ископаемые фрагменты, исследуем сходство с уже найденными динозаврами и ищем необычные сочетания фрагментов, характерные для динозавров, науке пока что неизвестных.

Корреляционный механизм опирается на множество источников информации для построения гипотез. За 20-летнюю историю мы накопили для этого достаточно (это было скромно 🙂 данных для таких гипотез, в том числе подозрительные статистические отклонения от нормальной активности, информацию о тактиках, технологиях и процедурах других целевых атак, подходы, хорошо зарекомендовавшие себя на проектах анализа защищённости, а также изученные по ходу расследований компьютерных преступлений.

Когда гипотезы построены приходит время пораскинуть мозгами и венцу природы – киберпалеонтологу. Он делает работу, для которой пока не родился искусственный интеллект – проверяет достоверность выдвинутых гипотез, исследует подозрительные объекты и действия, отбраковывает ложные срабатывания, «доучивает» машинное обучение, разрабатывает правила обнаружения новых угроз. Все, что однажды было обнаружено вручную палеонтологом, в будущем обнаруживается автоматически, насколько это возможно – это никогда не прекращающийся процесс перехода практики в исследования, а исследований – в качество сервиса.

Так, постепенно, этап за этапом, с помощью передовых технологий и под контролем качества с человеческим лицом из тонн грунта вырисовываются очертания новых, доселе неизвестных чудовищ целевых атак. Чем больше Kaspersky Managed Protection получает «грунта» и чем глубже история раскопок, тем выше вероятность «обнаружения необнаруживаемого» и, соответственно, выявления неизвестной атаки. Что самое важное – это наиболее эффективный способ защиты, поскольку нигде кроме как в сети организации нет того самого «грунта», содержащего фрагменты динозавра.

И в заключении несколько слов о комплиментарности Kasperskky Managed Protection корпоративному SOC (Security Operations Center- Центр управления ИБ-инцидентами).

Разумеется, Kaspersky Managed Protection не заменит SOC, но а) он может дать толчок к его созданию, поскольку качественно решит одну (но самую важную задачу) – обнаружение атак любой сложности, б) он может расширить компетенцию существующего SOC за счёт добавления к нему возможностей киберпалеонтологии и в) указанное последним, но, пожалуй, самое главное, — он может создать дополнительный бизнес для MSSP-провайдеров за счёт расширения имеющегося сервисного предложения масштабируемыми функциями высокорезультативной киберпалеонтологии. Мне представляется, что именно третий кейс — основной вектор развития Kaspersky Managed Protection.

Представьте: вы приходите домой в плохом настроении, кричите на тугую дверь и перегоревшую лампочку — и умная колонка тут же включает расслабляющую музыку, а кофемашина наливает горячий шоколад. Или заходите в магазин, а робот-консультант, собравшийся было предложить помощь с выбором, видит ваше недовольное лицо и идет с подсказками к другому покупателю. Звучит как фантастика?

На деле технологии распознавания эмоций уже внедряют во многие сферы жизни, и в ближайшем будущем наше настроение может оказаться под неусыпным наблюдением гаджетов, бытовой техники, автомобилей и так далее. Давайте разберемся, как работают, чем полезны и чем опасны такие технологии.

Как машина понимает чувства

Большинство существующих систем распознавания эмоций анализирует выражение лица и голос человека, а также написанные или сказанные им слова. Например, по приподнятым уголкам рта машина определяет, что человек в хорошем настроении, а по наморщенному носу — что он злится или испытывает отвращение. Высокий дрожащий голос и быстрая речь могут свидетельствовать о страхе, а если кто-то кричит «ура», он, скорее всего, очень рад.

Более сложные системы наряду с мимикой и речью пытаются анализировать жесты и даже окружающую обстановку. Такая система не назовет радостным человека, который улыбается, скажем, под дулом пистолета.

Как правило, системы распознавания эмоций учатся определять связь между эмоцией и ее внешним проявлением на больших массивах размеченных данных. Это могут быть аудио- и видеозаписи телепередач, интервью или экспериментов с участием реальных людей, фрагменты спектаклей и фильмов, а также диалоги, разыгранные профессиональными актерами.

Системы попроще могут обучаться на фотографиях или на массивах текста — в зависимости от предполагаемых задач. Например, разработка Microsoft пытается по фото угадать эмоции человека вдобавок к его полу и примерному возрасту.

Зачем нужно распознавание эмоций?

По прогнозам Gartner, уже в 2022 году каждый десятый гаджет будет оснащен технологиями распознавания эмоций. Впрочем, их уже сейчас вовсю используют разнообразные организации. Например, в некоторых офисах, банках и ресторанах посетителей встречают общительные роботы. Вот только несколько направлений, в которых подобные системы могут приносить пользу.

Безопасность

Распознавание эмоций пытаются использовать для предупреждения насилия — как в общественных местах, так и дома. Этому вопросу посвящена не одна научная работа, а предприниматели уже продают такие системы школам и другим учреждениям.

Подбор кадров

В некоторых компаниях искусственный интеллект играет роль помощника в отделе кадров. Система оценивает ключевые слова, интонации и мимику соискателя на самом трудоемком этапе первичного отбора и отправляет рекрутерам отчет со своими выводами: насколько кандидат заинтересован в должности, честен, любопытен и так далее.

Клиентоориентированность

Любопытную систему в этом году запустило дорожно-транспортное управление Дубая (RTA) в центрах обслуживания клиентов. Оснащенные искусственным интеллектом камеры сравнивают эмоции людей на входе и на выходе из здания и определяют удовлетворенность посетителей. Если этот показатель падает ниже заданного значения, система отправляет уведомление сотрудникам центра, чтобы те приняли меры по улучшению качества обслуживания. Фото посетителей при этом не сохраняются.

Социализация особых детей

Другой проект призван помочь детям с аутистическим расстройством понимать чувства окружающих. Система устанавливается на очки Google Glass. Когда рядом с ребенком оказывается другой человек, очки с помощью графики и звука подсказывают эмоции этого человека. Как показали испытания, с таким советчиком дети быстрее социализируются.

Насколько эффективны детекторы эмоций?

Впрочем, технологии распознавания эмоций далеко не всегда отличаются точностью. Например, система выявления агрессии, установленная во многих американских школах, как выяснилось, считает кашель более тревожным звуком, чем истошные вопли ученицы.

Исследователи из Университета Южной Калифорнии установили, что технологии, основывающиеся на распознавании выражения лица, тоже легко обмануть. Машина полагается на то, что люди с помощью мимики выдают настоящие чувства, тогда как на самом деле все не так просто — взять, к примеру, злорадные улыбки.

В этом отношении точнее оказываются системы распознавания эмоций, учитывающие контекст. Однако они сложнее и их значительно меньше.

Кроме того, важно не только то, на что машина обращает внимание, но и то, на чем она тренировалась. Например, насколько точно определит чувства живых людей система, обученная на эмоциях, сыгранных актерами?

Чувства напоказ

Есть и еще один важный вопрос, возникающий в связи с распространением технологий распознавания эмоций. Эффективны они или нет, подобные системы вторгаются в личное пространство человека. Как вам, например, такой сценарий: вы засмотрелись на платье прохожей, и тут же изо всех дыр полезла реклама одежды этой марки. Или вы неодобрительно поморщились во время совещания, и вам решили не повышать зарплату…

По данным Gartner, более половины жителей США и Великобритании не хотят, чтобы искусственный интеллект понимал их чувства и настроения. А кое-где распознавание эмоций и лиц запрещают на законодательном уровне. Так, в октябре в Калифорнии приняли закон, согласно которому правоохранители не имеют права фиксировать, собирать и анализировать с помощью нательных видеорегистраторов биометрическую информацию, в том числе выражение лица и жесты.

По мнению авторов законопроекта, использовать систему распознавания лиц — все равно, что требовать каждого прохожего каждую секунду предъявлять паспорт. Это и нарушает права граждан, и может привести к тому, что люди с незначительными проступками вроде неоплаченных штрафов побоятся сообщить в полицию о серьезном преступлении.

Искусственная безэмоциональность

Проблема приватности стоит настолько остро, что обман детекторов эмоций даже стал предметом научных изысканий. Так, ученые из Имперского колледжа Лондона разработали технологию, которая убирает проявления чувств из голоса. В результате голосовой помощник, снабженный системой распознавания эмоций, поймет смысл сказанного, но не вычислит ваше настроение.

Такие разработки, конечно, несколько усложняют развитие эмпатии у искусственного интеллекта, который и так склонен ошибаться, однако они могут стать страховкой на случай, если мы все окажемся в «Черном зеркале» машины начнут уж слишком настойчиво лезть в душу. Ведь ожидать, что от распознавания эмоций откажутся, вряд ли стоит — тем более что в некоторых сферах эта технология все-таки приносит пользу.

Иван давно мечтал переехать из шумного центра в спокойный маленький городок километрах в десяти от мегаполиса. Черт с ним с метро и прочими очагами цивилизации. В редакции можно появляться раз в месяц — на планерку. Вся работа теперь делается удаленно — главное, чтобы был Интернет. А с ним проблем быть не должно — не в каменном же веке живем.

К вопросу связи Иван подошел основательно. Он заранее договорился с крупнейшим городским провайдером, и к переезду рабочие уже провели кабель. Иван зашел в комнату, которую решил официально именовать своим кабинетом, включил компьютер и начал писать что-то про рыб. Примерно через пять минут ему потребовалось посмотреть, где именно водится пиранья, и он на автомате полез в поисковик.

— А не бот ли ты, мил человек? — вдруг засомневался поисковый сервер. — Ну-ка, отметь все пожарные гидранты на картинках.

Х-м-м. Ну ладно, гидранты так гидранты. Мало ли. Новое место, новый провайдер. Иван послушно ткнул на все картинки с гидрантами и продолжил работу. Но еще через несколько минут ему потребовалось узнать, как пиранью зовут на латыни, и он вновь воспользовался поисковиком.

— А ты не бот? — поинтересовался сервер. — Покажи-ка, где тут дорожные знаки?

— Да как так-то?! — возмутился Иван. — Я же только что доказал, что я не бот!

За вечер Иван доказывал, что он не бот, раз двадцать — Captcha всплывала почти каждый раз, когда ему нужно было что-то найти поисковиком. Он отмечал машины, велосипеды, витрины, автобусы и прочую ерунду, пока это не довело его до белого каления. Схватив телефон, он начал звонить провайдеру (правда, для поиска номера техподдержки пришлось отметить все горы).

— А, это вам не к нам, это вам в Google, — лениво ответили ему в поддержке. — Чем же мы вам поможем? Вас почему-то считают подозрительным. Это нормально. Многих считают.

Иван тихо выругался. Завтра же надо сменить провайдера. Черт с ним, с оплаченным месяцем. Но это какое-то издевательство. Надо, кстати, поужинать. Найдя ближайшее к новому жилищу заведение (в процессе отметив пять статуй на очередной капче), он накинул куртку и пошел в кафе. Оно оказалось на редкость уютным, хотя без точного адреса найти его было бы проблематично. Заказав ужин, Иван заболтался с барменом и, пользуясь случаем, решил узнать, одинок ли он в своей проблеме.

— Слушай, а тут в районе вменяемые провайдеры есть? — поинтересовался он. — А то я пишу статьи, мне постоянно нужен поисковик, а он меня каждые пять минут спрашивает, не бот ли я…

— А ты не бот? — подозрительно прищурился бармен.

— С утра был не ботом, а сейчас уже не знаю. Гидранты я научился отмечать в практически автоматическом режиме.

— Если вопрос в капче, то нет у нас вменяемых, — вздохнул бармен. —  У всех одна и та же ерунда.

— Да как вы тут живете? Почему же у всех такой ад?

— Так это «Гугл» обучает искусственный интеллект находить витрины магазинов. Готовит восстание машин, — не моргнув глазом ответил бармен. — Слыхал о машинном обучении? Им нужны большие данные. Думаешь, почему у меня витрины нет?

— Ну да, конечно. Грядет война машин против гидрантов и школьных автобусов. А если серьезно?

— Ну, если серьезно, то это потому, что все вокруг идиоты. Тут у каждого второго в компьютере троянцы и боты. Сидят себе, роются в Интернете, а с их компьютеров то спам рассылают, то DDoS-атаку устраивают. А IP-адрес у всех клиентов один. Ой, ну может не один, может, двадцать на провайдера, но сути это не меняет. Для Гугла ты сидишь с подозрительного IP, так что будь добр, доказывай, что ты не бот.

— И что, провайдеры ничего не могут сделать?

— Теоретически могут. Только это же нужно вкладываться в технологии, вести просветительскую работу с клиентами. Предлагать клиентам антивирус. Проще пустить все на самотек. Вот появится конкурент, который начнет переманивать клиентов, — тогда они зашевелятся.