Технологическая сингулярность: правда ли, что скоро технологии выйдут из-под нашего контроля

Статью можно послушать. Если вам так удобнее, включайте подкаст.

Что такое технологическая сингулярность

Технологическая сингулярность — это теоретический момент, когда человек потеряет контроль над техническим прогрессом, а тот, в свою очередь, станет необратимым. Говоря простым языком, в ближайшем будущем технологии могут настолько развиться, что человечество просто перестанет поспевать за ними и понимать их.

Создание искусственного суперинтеллекта как способ достичь сингулярности рассматривается чаще всего, но это не единственно возможный путь. Например, в ближайшем будущем вероятно появление машин (компьютеров, роботов), которые смогут делать всё лучше человека, а из‑за этого произойдёт резкий, лавинообразный технологический скачок.

Дальше, как считают сторонники концепции технологической сингулярности, такие «интеллектуальные взрывы» будут происходить всё чаще и чаще. Это способно привести к радикальным изменениям в обществе, которые мы не сможем ни предсказать, ни контролировать.

Именно последствия сингулярности вызывают у многих опасения и служат основой для дискуссий о будущем человечества. Эти последствия оценивают по‑разному. Рэймонд Курцвейл, футуролог, разработчик систем распознавания речи и одна из ключевых фигур в Google, считает, что развитие технологий — отличная возможность для человека стать лучше. Менее оптимистичны в своих оценках Илон Маск, Билл Гейтс и ныне покойный Стивен Хокинг. По их мнению, прогресс может привести к уничтожению человечества.

Какие существуют предпосылки для технологической сингулярности

Опасения насчёт последствий технологического прогресса появились не на пустом месте. Многие процессы в современном обществе и науке наталкивают на подобные размышления.

Ускорение технического и технологического прогресса

Цифровая эпоха началась с изобретения транзистора в 1947 году и длится до сих пор. Ещё в 1965 году один из основателей Intel, готовясь к выступлению, обнаружил интересную закономерность: каждые два года количество транзисторов в микросхемах увеличивается вдвое.

С тех пор мало что изменилось: компьютерные вычисления демонстрируют постоянный экспоненциальный рост. Чем дальше развиваются технологии, тем круче становится кривая, иллюстрирующая технический прогресс. В пределах нескольких десятилетий его темпы способны уйти в бесконечность.

По сведениям компании Datamation, ещё в 2017 году объём цифровых данных превысил наши возможности управлять ими. При этом он удваивается каждые два года.

Одной из следующих ступеней развития технологий, вероятно, может стать изобретение AGI (artificial general intelligence — искусственного интеллекта общего уровня). Таким термином обозначают ИИ, который научится общаться, мыслить и действовать как человек или даже лучше. То есть AGI в теории сможет заменить людей во всём.

Развитие искусственного интеллекта

Пока компьютеры не могут делать абсолютно всё лучше нас, хотя в решении многих задач они уже гораздо умнее человека (или, по крайней мере, быстрее него).

Ещё 4–5 лет назад прогноз Рэймонда Курцвейла о том, что к 2045 году искусственный интеллект превзойдёт человеческий во всём, считался очень смелым (притом что начиная с 90‑х годов 86% его предположений сбылись).

Сегодня же в качестве гипотетической даты появления AGI уже называют промежуток между 2025 и 2035 годами, а то и более ранний.

Особую роль в этом может сыграть создание нейроморфных чипов — процессоров для нейронных сетей, воспроизводящих то, как наш мозг обрабатывает информацию. Пока изыскания в этой области ещё далеки до получения реально работающей модели, но несомненные успехи уже есть. Вот что умеет ИИ сегодня:

• обучаться;
• побеждать людей в стратегических играх (программа AlphaGo в 2015 году всего за 9 часов тренировок с собой обрела способность играть в шахматы лучше человека);
• помогать людям с травмами спинного мозга встать на ноги;
• узнавать лица;
• управлять автомобилем;
• писать картины и связные тексты;
• создавать лекарства;
• вести новостные репортажи и много чего ещё.

В 2014 году Google за 600 миллионов долларов выкупила разработчика AlphaGo — британскую компанию DeepMind, целью которой было изобретение AGI. Идеи британцев помогли Google создать эффективные алгоритмы диагностики заболеваний глаз и раннего обнаружения болезней Паркинсона и Альцгеймера.

Скорее всего, стоит ждать появления AGI уже в обозримом будущем. Однако наступление технологической сингулярности не связано с этим напрямую.

Появление нейроинтерфейсов

Уже сейчас можно говорить об интернете как о форме «глобального мозга» — явлении, благодаря которому люди со всех уголков света могут практически непрерывно общаться друг с другом через технического посредника.

Существуют устройства и более близкие к гаджетам из фантастических фильмов. Уже свыше 300 тысяч человек пользуются кохлеарными имплантатами (слуховыми протезами, воздействующими прямо на слуховой нерв), а образцы бионических глаз проходят испытания на людях. И хотя эти устройства всё ещё не способны вернуть зрение или слух полностью, качество их работы повышается.

Также Илон Маск и Брайан Джонсон объявили о создании стартапов по разработке интерфейсов «человек — компьютер» (Neuralink и Kernel). Конечно, говорить о том, что уже скоро мы сможем управлять смартфоном силой мысли, пока рано: все подобные устройства ещё слишком медленные и несовершенные. Тем не менее есть все основания полагать, что успехи в этой отрасли не за горами.

Какие доводы приводят в пользу технического прогресса

ИИ и роботы возьмут на себя сложную интеллектуальную и физическую работу

Развитие искусственного интеллекта и робототехники в конечном счёте может привести к тому, что машины научатся делать всё без участия человека или с минимальным его вмешательством. В таком случае прогресс продолжит ускоряться, всё более улучшая жизнь и быт людей.

Уже сейчас компьютеры используются человеком для научных изысканий и совершенствования технологий. Благодаря этому (например, генетическим исследованиям или разработке устройств, улучшающих возможности человеческого мозга) сами люди становятся умнее, а машины — быстрее. Таким образом ускоряется развитие не только компьютеров, но и человека.

Люди откроют в себе новые способности

Срастание человека с технологиями происходит не только на физическом (применение протезов, модификаций), но и на информационном уровне (использование гаджетов). Смартфон с мобильным интернетом в кармане — это первый шаг к превращению в киборга.

Существует даже движение трансгуманизма, выступающее за активное улучшение человеческого тела с помощью технологических достижений. Трансгуманисты считают, что модификация организма — единственный способ идти в ногу со временем и не передать судьбу человечества в распоряжение машин.

Однако пока что появление людей‑биороботов всё ещё находится в области фантастики.

Новые технологии открывают путь к потенциальному бессмертию

Гораздо более элегантным решением в этой области представляется снятие ограничений ДНК. Генная и биоинженерия, а также ноотропные препараты способны сделать людей умнее. С помощью же искусственно выращиваемых органов или наномашин люди могут избавиться от старения и достигнуть бессмертия.

Вопросы лишь в том, как быстро человек научится (и научится ли) применять эти возможности, одобрит ли их общество и власть. Для рождения и обучения генно‑модифицированных людей понадобятся годы — даже если не учитывать социальные факторы, замедляющие внедрение такой технологии. Другие формы суперинтеллекта (ИИ) могут появиться гораздо быстрее.

Что говорят противники бесконтрольного развития технологий

Искусственный интеллект может уничтожить человечество

Развитие AGI, вероятнее всего, будет намного опережать развитие человеческого мозга и технологий, призванных расширить наши возможности. Искусственный разум способен превзойти человеческий и в пессимистическом сценарии легко выйдет из‑под контроля.

Доктор Оксфордского университета Ник Бустрём считает, что основания для беспокойства есть. По его мнению, каким бы развитым интеллект ни был, это не влияет на то, злыми или добрыми будут поступки его хозяина. Поэтому, насколько бы ни был умён ИИ, мы не застрахованы от того, что он сделает что‑то нехорошее.

Важно, чтобы AGI смог понять, принять цели человечества и придерживаться их. Если же он поставит для себя иные приоритеты, такие как самосохранение, захват ресурсов или удовлетворение любопытства, то во взаимоотношениях людей и машин возникнут конфликты.

Модернизация человеческого тела может привести к ещё большему расслоению общества

Модификация организма людей способна не только создать «Человека 2.0», но и усугубить социальные конфликты. Те, у кого появится доступ к таким технологиям, очевидно, будут иметь превосходство над теми, кто этими возможностями не владеет.

Возникают значительные проблемы этического и юридического характера: можно ли давать одному человеку интеллектуальное и/или физическое преимущество над другим и как защитить «биомеханических людей» от хакеров.

Попав не в те руки, технологии могут стать опаснейшим оружием

Не стоит забывать, что человек и сам по себе представляет большую опасность. Военные уже используют дроны и программируемые машины в качестве оружия, а социальные сети наводнены мошенниками. Велика вероятность, что люди начнут злоупотреблять и новыми технологиями.

Но и до этого мы просто рискуем не дожить, так как даже существующее оружие опасно. Макс Тегмарк, астрофизик и профессор Массачусетского технологического университета, с помощью формул статистической вероятности подсчитал риск мировой ядерной войны, приводящей к взаимному уничтожению. Он пришёл к выводу, что если вероятность равна 0,001 в течение одного года, то в промежуток 10 000 лет ядерный коллапс случится с вероятностью 99,95%. Даже отлаженная система сдерживания хорошо изученного оружия может дать сбой. И возникает вопрос: сможем ли мы контролировать более сложные технологии, чтобы они не попали в неправильные руки?

Какое будущее может нас ждать

При этом Макс Тегмарк критически оценивает вероятность пессимистического сценария. Он считает, что возможности самосовершенствования ограничены физическими законами. Истинная сингулярность, как бесконечно ускоряющийся прогресс, по мнению Тегмарка, невозможна, хотя этот процесс и способен приближаться к бесконечности.

Поэтому профессор утверждает, что за скачком технологий последует быстрое достижение всей или почти всей полноты знаний о мире, а не их бесконечное накопление.

Согласно другой точке зрения, ничто, в том числе и прогресс, не может ускоряться бесконечно долго — рано или поздно его ждёт замедление.

Далеко не все учёные вообще разделяют теорию технологической сингулярности. Некоторые отмечают, что до сих пор в природе не обнаружены явления, развивающиеся неограниченно и бесконечно быстро. При этом исследователи обращают внимание, что немалое количество прогнозов в этой области основывается не на объективных данных, а на желаниях самих предсказателей.

Так, например, ИИ может остаться чисто утилитарным и не наделённым личностью. Алгоритмы той же DeepMind пока не могут найти решение, если что‑то идёт не так и заранее заданные условия меняются.

Например, чтобы AlphaGo научилась играть в Space Invaders, ей нужно сделать тысячи попыток. В конечном итоге программа, разумеется, станет играть лучше человека, но тот освоит процесс гораздо быстрее.

Поэтому ни об одном из прогнозов нельзя говорить как о стопроцентно вероятном. Но это и не повод полностью отказываться от идеи технологической сингулярности.

Во многом реализация тех или иных сценариев судьбы человечества будет зависеть от направления технологического развития, от того, в чьих руках оно окажется и каким образом будет регулироваться. Также большую роль сыграет то, насколько усложнятся технологии. Не стоит забывать и о социальных, геополитических и экономических факторах, способных влиять на прогресс. Говорить о точных датах наступления технологической сингулярности тоже пока сложно.

Будет ли и дальше существовать человек, если для многих видов деятельности (например, науки) он окажется не нужен? Останется ли изменённый ДНК‑вмешательствами или нейроинтерфейсами человек человеком? У нас нет ответов на эти вопросы. Возможно, человек уже необратимо изменился с появлением вычислительных машин и цифровых технологий.

Но совершенно точно здесь одно: эволюционный процесс естественен и неостановим. Мы не в силах затормозить его. В конце концов, возможно, это машины научат нас не убивать и не унижать друг друга и нам стоит им довериться?

Поэтому, как советует Макс Тегмарк, думайте не о том будущем, которое вас пугает, а о том, какого бы вы хотели.