Технологии против человека

Леонгард Герд

И последнее: кто будет нашими проводниками в мир преумноженных чувственных ощущений ДР и ВР? Технологии виртуальных путешествий, такие как OculusRift от Facebook, SamsungVR, HoloLens от Microsoft, уже могут дать нам ощутить, каково это – сплавляться на рафте по реке Амазонка или взобраться на гору Фиджи. Это интересный новый опыт, который значительно изменит наши способы коммуникации, работы, учебы и переживания реальности. Но сможем ли мы, да и нужно ли нам воспрепятствовать тому, чтобы провайдеры этого опыта будущего всегда показывали нам «фальсифицированную» реальность – например, скрывая трущобы в Мумбаи, когда мы проезжаем мимо на такси?

Останемся ли мы человечными,

если предпочтем этот новый мир? Можно ли что-то сделать, чтобы предотвратить повсеместное использование ДР/ВР в качестве привычных средств, таких как мобильные устройства и социальные сети? Можно ли будет предложить использовать их ограниченно, как какой-нибудь навороченный телевизор, или в таком случае жизнь в обычном недополненном мире покажется нам скучной? Подумайте, как много детей сегодня не хотят идти на пляж, если там нет wi-fi. Это действительно дилеммы, и для них не будет однозначного решения. Здесь необходим сбалансированный, ситуативный, антропоцентричный подход.

Давайте согласимся с тем, что все еще существует огромная разница между восприятием альтернативных реальностей и реальной жизни. Представьте себе, буквально на две минуты, что вы находитесь в Индии, в центре людного базара в Мумбаи. Затем сравните эти впечатления с теми, которые вы могли бы приобрести за более долгий период времени, находясь в том же месте, но в альтернативной реальности, используя самые высокоразвитые технологии ВР на сегодняшний день. Запахи, звуки и виды, телесные реакции, общее воздействие на органы чувств… все это в тысячи раз более интенсивно, чем могли бы смоделировать самые продвинутые гаджеты, пользуясь экспоненциальными завоеваниями технологий.

В этом и заключается разница между полноценным, телесным, контекстуальным человеческим опытом и машинной симуляцией. Тем не менее хорошо смоделированная реальность не наносит вреда, пока мы отдаем себе отчет в том, что она собой представляет, и не подменяем понятия. В этом случае мы даже сможем использовать ее во благо.

Технологии визуализации уже в ближайшем будущем станут намного совершеннее, выйдут на новый уровень и продолжат стирать границы между человеком и машиной. В момент, когда мы сможем попасть внутрь фильма с помощью ВР, способности нашего воображения будут навсегда побеждены технологиями³⁸. И это одновременно восхищает и беспокоит меня. Можно ли нам это делать? Подготовлены ли мы к такой виртуальности? Изменятся ли в результате наши «настройки», и что мы будем с этим делать? Нужны ли нам новые небиологические надстройки, чтобы уверенно существовать в новой реальности?

Неважно, как мы ответим на эти вопросы: если экспоненциальный технологический прогресс означает, что наши тела перестанут быть центром нашей идентичности, то мы неизбежно перешагнем тот порог, который отделяет нас от машин. Уменьшит ли нашу человечность тот факт, что наши биологические особенности придется регулярно обновлять, чтобы они нормально функционировали? К этому моменту мы откажемся от 95 % нашего потенциала в пользу того, чтобы «стать теми инструментами, которые мы создали»³⁹.

Искусственный интеллект и стирание границ

Принимая во внимание масштаб возможного влияния ИИ, мы должны также рассмотреть его вклад в стирание границ между человеком и машиной. Возьмем, к примеру, компанию DeepMind, ведущую фирму ИИ в Лондоне, приобретенную Google в 2015 году. В феврале 2016 года в интервью для The Guardian гендиректор DeepMind Демис Хассабис следующим образом отозвался о потенциале ИИ:

В мире сейчас такой переизбыток информации, что даже умнейшим людям становится сложно овладеть ею в течение жизни. Как же нам не утонуть во всех этих данных и прийти к правильным выводам? ИИ можно рассматривать как процесс по переработке неструктурированной информации в практическое знание. То, над чем мы работаем, станет ключом к решению любой проблемы⁴⁰.

Как будет реализовано это громкое заявление на практике? Представьте себе общество, где технологии, в особенности ИИ, могут решить любую серьезную проблему человечества, начиная от болезней, старения и смерти и заканчивая изменением климата, глобальным потеплением, производством энергии и продуктов питания и даже терроризмом. Представьте машинный интеллект, который сможет обработать большее количество информации, чем мы когда-либо сможем воспринять, и считывать всю информацию в мире в режиме реального времени, где угодно и когда угодно. Это устройство (и его владельцы и разработчики) станет чем-то наподобие глобального мозга, невероятно мощного, за гранью человеческого понимания. К этому ли хотят нас подвести компании типа DeepMind и Google? И как нам удастся сохранить наши человеческие качества при таком раскладе?

Приписывание разума машинам, скоплениям фрагментов или другим божествам умников скрывает больше, чем показывает. Когда людям говорят, что компьютер разумен, они склонны изменять себя, чтобы казалось, будто компьютер работает лучше, а не требовать изменения компьютера для улучшения его работы.

– Джарон Ланир [35] . «Вы не гаджет»⁴¹

Могут ли технологии отличить то, что действительно важно?

Давайте представим, что такое устройство, ИИ-в-облаке, уже существует (мы и сейчас не так далеки от запуска первых пробных версий). Сможет ли оно считывать, понимать и ценить те взаимодействия между людьми, которые нельзя представить в виде данных? Сможет ли оно понять dasein, бытие?

35

Джарон Ланир (англ. Jaron Zepel Lanier, р. 1960) – американский ученый в области визуализации данных и биометрических технологий, автор термина «виртуальная реальность», футуролог, популяризатор, композитор, философ.

Несмотря на будущий экспоненциальный технологический прогресс, человеческий способ существования и переживания опыта кардинально отличается от того, как технологии его воспринимают. Даже лучшие фотографии, видео и цепочки данных только примерно передают, как это было на самом деле: контекст, воплощение, переживание этого уникального момента.

Некоторые философы утверждают, что мы сами не в состоянии запечатлеть, удержать и воспроизвести то, что действительно важно. Если это правда, то как мы можем надеяться уловить какую-то смоделированную человечность внутри машины? Не повлечет ли это за собой высокий риск потери 95 % того, что составляет нашу человеческую сущность, если мы решимся «превзойти биологические ограничения», как предлагают трансгуманисты?

«Википедия» определяет трансгуманизм так:

…международное интеллектуальное движение, целью которого является трансформация человека путем создания широкодоступных современных технологий, которые смогут значительно усилить интеллектуальные, физические и психологические способности людей⁴².

Это зловещее обещание «значительно усилить» больше всего настораживает меня в трансгуманизме. Какой бы заманчивой ни представлялась перспектива увеличения способностей, мне все же кажется, что больше всего от этого выиграют компании, платформы и технологии, которые предоставят нам эти возможности. Эти компании действительно усилят свои мощности и позицию на рынке, расширят сферу охвата, пока обыватели будут пытаться успеть за своими переразвитыми братьями. Бизнес, построенный на том, чтобы заменить андроритмы и человеческие переживания алгоритмами, ИИ и программным обеспечением, безусловно, обречен на успех. Но будет ли это преимуществом, по сути своей? Должны ли мы предоставить будущее в распоряжение тех, кто хочет превратить его в огромную облачную операционную систему (ОС), только потому, что это выгодно?