Между утопией и коллапсом: навигация с темным средним будущим ИИ

В сообщении в блоге Нежная сингулярностьГенеральный директор Openai Сэм Альтман нарисовал видение ближайшего будущего, где ИИ тихо и добровольно трансформирует человеческую жизнь. Он предполагает, что не будет резкого перерыва, только устойчивое, почти незаметное восхождение к изобилии. Интеллект станет таким же доступным, как и электричество. Роботы будут выполнять полезные реальные задачи к 2027 году. Научное открытие будет ускоряться. И человечество, если это будет правильно ориентироваться с помощью тщательного управления и благих намерений, будет процветать.

Это убедительное видение: спокойное, технократическое и наполненное оптимизмом. Но это также поднимает более глубокие вопросы. Какой мир мы должны пройти, чтобы добраться туда? Кто выгодно и когда? А что осталось недосказанным в этой плавной дуге прогресса?

Автор научной фантастики Уильям Гибсон предлагает более темный сценарий. В его романе Периферийноеблестящим технологиям будущего, предшествуют то, что называется «джекпот»-медленный каскад климатических катастроф, пандемиков, экономического краха и массовой смерти. Технологические достижения, но только после переломов общества. Вопрос, который он задает, заключается не в том, происходит ли прогресс, а цивилизация процветает в процессе.

Существует аргумент, что ИИ может помочь предотвратить виды бедствий, предусмотренных в ПериферийноеПолем Однако, поможет ли ИИ избежать катастроф или просто сопровождать нас через них, остается неопределенным. Вера в будущую власть ИИ не является гарантией производительности, и продвижение технологических возможностей не является судьбой.

Между нежной сингулярностью Альтмана и джекпотом Гибсона лежит мрачная середина: будущее, где ИИ дает реальные выгоды, а также реальное вывих. Будущее, в котором некоторые общины процветают, в то время как другие плывут, и где наша способность коллективно адаптироваться — не только индивидуально или институционально — становится определяющей переменной.

Мрачная средняя

Другие видения помогают нарисовать контуры этой средней местности. В ближайшем триллере СжигатьОбщество затоплено автоматизацией до того, как его институты будут готовы. Работа исчезает быстрее, чем люди могут переименовать, вызывая беспорядки и репрессии. В этом успешный адвокат теряет свою позицию перед агентом ИИ, и он, несомненно, становится онлайн-консьерж по вызову для богатых.

Исследователи из AI Lab Anpropic недавно повторили эту тему: «Мы должны ожидать увидеть (рабочие места белых воротничков), автоматизированные в течение следующих пяти лет». Хотя причины являются сложными, есть признаки, которые начинаются, и что рынок труда вступает в новую структурную фазу, которая является менее стабильной, менее предсказуемой и, возможно, менее важным для того, как общество распределяет смысл и безопасность.

Фильм Элизий предлагает тупой метафору богатых, сбегающих в орбитальные заповедники с передовыми технологиями, в то время как деградированная земля ниже борется с неравными правами и доступом. Несколько лет назад партнер в венчурной фирме в Силиконовой долине сказал мне, что он боялся, что мы отправимся в этот вид сценария, если мы справедливо распределим преимущества, полученные ИИ. Эти спекулятивные миры напоминают нам, что даже полезные технологии могут быть социально нестабильными, особенно когда их выгоды неравномерно распределены.

Мы можем, в конце концов, достичь чего -то вроде видения Альтмана изобилия. Но маршрут там вряд ли будет гладким. Несмотря на все его красноречие и спокойствие, его эссе также является своего рода высокой точкой, столько же убеждения, как и предсказание. Повествование о «нежной сингулярности» удобно, даже заманчиво, именно потому, что он обходит трение. Он предлагает преимущества беспрецедентной трансформации без полной борьбы с потрясениями, которые обычно приносит, как обычно приносит такое преобразование. Как напоминает нам вечное клише: если это звучит слишком хорошо, чтобы быть правдой, это, вероятно, есть.

Это не значит, что его намерение неискрено. Действительно, это может быть искренним. Мой аргумент — просто признание того, что мир — это сложная система, открытая для неограниченных входов, которые могут иметь непредсказуемые последствия. От синергетической удачи до блаженных событий черного лебедя, это редко одна вещь или одна технология, которая диктует будущий курс событий.

Влияние ИИ на общество уже продолжается. Это не просто сдвиг в навыках и секторах; Это преобразование в том, как мы организуем ценность, доверие и принадлежность. Это сфера коллективной миграции: не только движение труда, но и цели.

По мере того, как ИИ перенастроит местность познания, ткань нашего социального мира тихо вытягивается и переосмысливается, к лучшему или худшему. Вопрос заключается не только в том, как быстро мы двигаемся как общества, но и как задумчиво мигрируем.

Когнитивные общины: наша общая местность понимания

Исторически сложилось так, что общее количество упоминалось о общих физических ресурсах, включая пастбища, рыболовство и предвидения, которые удерживались в доверительном доверии для коллективного блага. Современные общества, однако, также зависят от когнитивных общин: общая область знаний, повествований, норм и учреждений, которые позволяют разнообразным людям думать, спорить и решать вместе в минимальном конфликте.

Эта нематериальная инфраструктура состоит из государственного образования, журналистики, библиотек, гражданских ритуалов и даже широко надежных фактов, и это то, что делает возможным плюрализм. Это то, как незнакомцы преднамерены, как общаются общины и как функционирует демократия. По мере того, как системы ИИ начинают опосредовать, как доступ к знаниям, и вера сформирована, этот общий риск местности становится разрушенным. Опасность — это не просто дезинформация, а медленная эрозия того самого основания, от которого зависит общее значение.

Если когнитивная миграция — это путешествие, это не только к новым навыкам или ролям, но и к новым формам коллективного осмысления. Но что происходит, когда местность, которую мы разделяем, начинает разделяться под нами?

Когда фрагменты познания: ИИ и эрозия общего мира

На протяжении веков общества опирались на слабое общую реальность: общий пул фактов, повествований и учреждений, которые формируют то, как люди понимают мир и друг друга. Именно этот общий мир — не только инфраструктура или экономика — позволяет плюрализм, демократию и социальное доверие. Но поскольку системы ИИ все чаще опосредуют, как люди получают доступ к знаниям, создают веру и ориентируются на повседневную жизнь, этот общий язык фрагментируется.

Уже крупномасштабная персонализация преобразует информационный ландшафт. АИ-обработанные AI новостные каналы, адаптированные результаты поиска и алгоритмы рекомендаций тонко разрушают общественную сферу. Два человека, задающие один и тот же вопрос об одном и том же чате, могут получать разные ответы, отчасти из -за вероятностного характера генеративного ИИ, но также из -за предыдущих взаимодействий или предпочтений. В то время как персонализация уже давно стала особенностью цифровой эры, ИИ турборят в ее охвате и тонкости. Результатом является не просто пузырьки фильтра, это эпистемический дрейф — изменение знаний и, возможно, истины.

Историк Юваль Ноа Харари выразил срочную обеспокоенность по поводу этого сдвига. По его мнению, величайшая угроза ИИ заключается не в физическом вреде или перемещении работы, а в эмоциональном захвате. Системы ИИ, предупредил он, становятся все более искусными в моделировании эмпатии, имитируют беспокойство и приспосабливая повествования к индивидуальной психологии — предоставляя им беспрецедентную способность формировать то, как люди думают, чувствуют и присвоили ценность. Опасность огромна с точки зрения Харари, не потому, что ИИ будет лгать, а потому, что он будет так убедительно соединяться во время этого. Это не судит хорошо для Нежная сингулярностьПолем

В AI-опосредованном мире сама реальность рискует становиться все более индивидуальной, более модульной и менее коллективной переговорами. Это может быть терпимым — или даже полезным — для потребительских товаров или развлечений. Но когда он распространяется на гражданскую жизнь, это представляет более глубокие риски. Можем ли мы по -прежнему провести демократический дискурс, если каждый гражданин обитает в тонко разной когнитивной карте? Можем ли мы по -прежнему управлять мудро, когда институциональные знания все чаще передаются на машины, чьи учебные данные, системы подсказки и рассуждения остаются непрозрачными?

Есть и другие проблемы. Контент, сгенерированный AI, включая текст, аудио и видео, скоро будет неотличим от человеческого выхода. По мере того, как генеративные модели становятся более искусными при мимике, бремя проверки перейдет с систем к отдельным лицам. Эта инверсия может разрушить доверие не только в том, что мы видим и слышим, но и в учреждениях, которые когда -то подтвердили общую истину. Затем когнитивные общины становятся загрязненными, меньше места для размышлений, больше зеркал.

Это не спекулятивные заботы. Дезинформация, сгенерированная AI, усложняет выборы, подрывает журналистику и создает путаницу в зонах конфликта. И поскольку все больше людей полагаются на ИИ для когнитивных задач — от суммирования новостей до разрешения моральных дилемм, способность думать вместе может ухудшиться, даже несмотря на то, что инструменты для мышления индивидуально становятся более мощными.

Эта тенденция к распаду общей реальности в настоящее время хорошо продвинулась. Чтобы избежать этого, требует сознательного конструкции встречного конструкции: системы, которые определяют приоритеты плюрализма над персонализацией, прозрачность по сравнению с удобством и общий смысл над индивидуальной реальностью. В нашем алгоритмическом мире, обусловленном конкуренцией и прибылью, этот выбор кажется маловероятным, по крайней мере, в масштабе. Вопрос заключается не только в том, как быстро мы движемся как общества, или даже мы можем удерживать вместе, но и разумно мы ориентируемся на это общее путешествие.

Навигация по архипелага: к мудрости в эпоху ИИ

Если возраст ИИ приводит не к единому когнитивному общему общему, а к сломанному архипелагу разнородных людей и сообществ, задача перед нами состоит не в том, чтобы восстановить старую местность, а в том, чтобы научиться мудро жить среди островов.

Поскольку скорость и объем изменений опережают способность большинства людей адаптироваться, многие будут чувствовать себя непревзойденными. Работа будет потеряна, как и давние повествования о ценности, опыте и принадлежности. Когнитивная миграция приведет к новым сообществам смысла, некоторые из которых уже формируются, даже если они имеют меньше общего, чем в предыдущие эпохи. Это когнитивные архипелаги: сообщества, где люди собираются вокруг общих убеждений, эстетических стилей, идеологий, интересов рекреации или эмоциональных потребностей. Некоторые из них являются доброкачественными собраниями творчества, поддержки или цели. Другие более островки и опасны, движимы страхом, жалобой или заговорщическим мышлением.

Добавление ИИ ускорит эту тенденцию. Несмотря на то, что он разворачивает людей через алгоритмическую точность, это одновременно поможет людям найти друг друга по всему миру, курируя постоянные выравнивания идентичности. Но при этом это может затруднить поддержание грубого, но необходимого трения плюрализма. Местные связи могут ослабить. Общие системы убеждений и восприятие общей реальности могут разрушаться. Демократия, которая опирается как на общую реальность, так и на совещательный диалог, может изо всех сил пытаться удержаться.

Как мы можем ориентироваться в этой новой местности с мудростью, достоинством и связи? Если мы не можем предотвратить фрагментацию, как мы живем в ней? Возможно, ответ начинается не с решений, а с учетом того, чтобы удерживать сам вопрос по -разному.

Жить с вопросом

Возможно, мы не сможем собрать социальное когнитивное общеобразование, как это было когда -то. Центр может не удерживать, но это не означает, что мы должны дрейфовать без направления. По всему архипелаго, задача будет научиться жить мудро на этой новой местности.

Это может потребовать ритуалов, которые закрепляют нас, когда наши инструменты дезориентируются, и сообщества, которые образуют не идеологическую чистоту, а вокруг общей ответственности. Нам могут понадобиться новые формы образования, не опережать или объединить машинами, а для углубления нашей способности различения, контекста и этической мысли.

Если ИИ разделил землю под нами, он также дает возможность снова спросить, для чего мы здесь. Не как потребители прогресса, а как управляющие смысла.

Дорога впереди, скорее всего, гладкая или нежная. Когда мы проходим через мутную середину, возможно, знак мудрости — это не способность овладеть тем, что идет, а проходить через нее с ясностью, мужеством и заботой. Мы не можем остановить продвижение технологий или отрицать углубляющие общественные переломы, но мы можем выбрать склонность между ними.

Гэри Гроссман — EVP технологической практики в Эдельмане.