По спирали вечности. Книга 2. Новый виток
Шрифт:
Зак выдержал минутную паузу, дабы присутствующие смогли полностью погрузиться в суть сформулированной идеи. Андрэ вопросительно посмотрел на докладчика, пытаясь понять, будет ли тот продолжать своё выступление. Члены Совета оживились и стали обсуждать с соседями по круглому столу возникшие у них по поводу текущего выступления соображения. Философ поднял правую руку вверх, призывая аудиторию к вниманию и кивнул председателю. В наступившей тишине Зак продолжил свою речь:
– В заключительной части я бы хотел представить собственное видение решения поставленной здесь проблемы. Мы живем в эпоху конвергенции человеческого разума и машинного интеллекта. С самых первых лет создания компьютеров человек передал часть своих когнитивных функций электронным техническим устройствам: память, мышление, речь. Люди совершенствуют и обучают машину, а она в свою очередь помогает им в решении широкого спектра задач: от требующих мускульной
К чему же всё это ведёт? Мы передали машинам вначале определенные моторные способности, затем ряд интеллектуальных функций, предоставили возможность творческой деятельности, а теперь ещё разделили с роботами часть эмоциональной сферы. Вы только представьте себе, уважаемые коллеги, люди передали машинам способности ощущать боль и радость! Чем они отличаются от нас? Чем мы отличаемся от них? Можем ли мы теперь обойтись без антропоидов? А, если рассмотреть аппроксимацию кривой дальнейшего развития человеческой цивилизации, не придем ли мы тогда к полному слиянию человека и машины? И далее – не последует ли в результате эволюции человека-антропоида постепенное вытеснение чисто человеческих, природных качеств искусственно смоделированными свойствами антропоида?
Философ снова замолчал, и зал опять не понял, закончил ли он своё выступление на прозвучавших риторических вопросах. Зак выпрямился во весь рост, поднял голову, посмотрел вглубь зала, поверх голов сидевших членов Совета, будто пытаясь что-то рассмотреть в неизведанной дали грядущих времён. Присутствующие молча следили глазами за его движениями и мимикой. Затем он снова оперся локтями о пюпитр и продолжил:
– Я попытался здесь очертить те перспективы, которые мне представляются вполне реальными. В силу вышесказанного, считаю необходимым разработку этического кодекса взаимодействия с антропоидами. В противном случае, в ближайшем будущем нам придётся разрешать сложнейшие противоречия между природной и роботизированной частями одного Homo Integration. И ещё хотелось бы напомнить о величайшем предупреждении гениального философа Мартина Коэля, предвидевшего ещё в прошлом веке опасность слияния интеллекта людей и роботов в общий сетевой разум. В связи с этим меня глубоко волнует вопрос: есть ли место человеческой индивидуальности в такой воображаемой реальности? Представляется крайне важным услышать мнение членов Совета старейшин по этому поводу. Благодарю за внимание почтенную публику. Я закончил своё выступление.
Андрэ выразил признательность докладчику за глубокий анализ системы взаимодействия человека и робота, постановку актуальных вопросов и четкое обозначение собственной позиции. Затем он предложил членам Совета изложить свое мнение. Первой попросила слово Эмма.
– Дорогие коллеги! Вопрос об этике взаимоотношений фриденцев с антропоидами мне представляется несомненно важным и актуальным. Я перед собранием специально поинтересовалась количеством антропоидов на нашей планете – их численность уже достигла тридцати тысяч. И надо сказать, совершенствование роботов идёт значительно более быстрыми темпами, чем представителей рода человеческого. Меня также, как и других членов Совета, поразили способности антропоида Дара анализировать отношения к нему людей, интерпретировать данные, поступающие от электронных рецепторов, даже проявлять собственные эмоции. Я вполне разделяю опасения эксперта Зака о перспективах конвергенции человека и антропоида и считаю необходимой разработку кодекса взаимодействия с роботами. Конечно, здесь стоит оговориться, что не все имеющиеся на Фридене антропоиды обладают столь высоким уровнем интеллекта, как Дар. Однако научно-технологический прогресс не стоит на месте, и все его следствия мы не в состоянии оценить. Поэтому предлагаю пойти ещё дальше и рассмотреть вопрос о границах, пределах, до которых мы готовы идти в совершенствовании антропоидов. К примеру, анализ звуков, запахов и изображений, произвольной символьной информации вполне допустим для машин, но давайте этим и ограничимся! Не надо их наделять способностями испытывать боль и наслаждение! Пусть счастье, страдание, любовь, печаль, тревоги и сомнения останутся исключительно людям! Следует также ограничить креативность антропоида, иначе в стремлении к совершенству он может попытаться кардинально изменить природу человека. Кто возьмёт на себя ответственность за последствия такой модификации? Вглядимся внутрь себя, дорогие Ива, Зак, коллеги, неужели среди вас найдётся человек, готовый к антропоидной реформации?
– Благодарю тебя, Эмма, за высказанную позицию в столь ярком и эмоционально окрашенном выступлении, – Андрэ не смог сдержать улыбку. – На данный момент могу констатировать, что у нас на встрече уже поставлено больше вопросов, чем дано ответов. В связи с этим, хотелось бы особое внимание обратить на высказанные здесь предложения экспертов и участников прений. По итогам обсуждения первого вопроса мы, как обычно, ещё раз пройдёмся по всем рассмотренным вариантам его решения. Далее предлагаю заслушать мнение Верна.
Верн твёрдой походкой уверенного в себе человека подошёл к кафедре и без вступительных слов сразу начал с рассмотрения существа вопроса:
– Мои коллеги, выступавшие здесь, поделились своими опасениями по поводу конвергенции человеческого и машинного разума. Считаю необходимым кратко обозначить свою позицию. На мой взгляд, в решении данного вопроса нельзя допустить двусмысленность. Суть проблемы состоит в выборе: мы или они, человек или антропоид, а глобально – существование человечества или царство бездушных механизмов. Я предлагаю утвердить и в дальнейшем строго придерживаться следующих основных норм во взаимодействии с автоматизированными техническими системами:
1) Роботу никогда и ни при какой ситуации нельзя предоставлять возможность вмешиваться и вносить какие бы то ни было изменения в функционирование человеческой психики.
2) Запретить производство модификаций антропоидов с имитацией человеческих эмоций и переживаний, в том числе, что хочу особо подчеркнуть, любых интерпретаций страха, боли, страдания, радости, удовольствия и любви. Да, пусть они будут вооружены анализаторами символов, звуков и запахов, но не надо оживлять «железных дровосеков», как в одной старинной сказке.
3) Определимся, наконец, раз и навсегда, робот – это механизм, инструмент, техническое устройство, лишенное разума и чувств, которое создано людьми для облегчения собственного физического или интеллектуального труда.
В этой связи, я полагаю, что не имеет смысла разрабатывать какие-либо кодексы взаимодействия с машинами. На мой взгляд, это аналогично идее сформулировать законы отношений с камнем, металлом, автовагоном или чайной ложкой… Да, не сочтите за резкость, но именно так! И я в этом глубоко уверен. Спасибо за внимание, надеюсь, никого не обидел своим мнением.
Верн столь же стремительно, как очутился у кафедры, вернулся на своё место и уже оттуда стал наблюдать за реакцией коллег. Андрэ попытался несколько сгладить впечатление слушателей от его выступления:
– Благодарю Верна за четко выраженную позицию, я думаю, она всем понятна и требует внимательного рассмотрения. Следует согласиться, что мнение представителя экосоциологии имеет свои мировоззренческие основания и логику. Однако запретительные меры, по моему глубокому убеждению, не могут привести человечество к прогрессу. Мы не можем повернуть развитие науки и технологии вспять, разрушить существующие модели антропоидов и запретить новейшие исследования в данной области. Более того, как же нам тогда поступить с идеей человеческого бессмертия, в рамках реализации которой уже много лет ведутся разработки компьютерной модели мозга и в некоторой перспективе – человеческого сознания? В начале этого года, например, я принимал участие в научной конференции, где обсуждались возможности сохранения индивидуального жизненного опыта человека, его стратегий мышления, эмоциональных переживаний на электронных носителях информации. Без моделирования процессов восприятия информации, мышления и чувствования этих проблем нам не решить.
– Андрэ, разрешите мне высказаться, – попросила слово Тина и, заметив одобрительный кивок председателя, продолжила. – Дорогие коллеги, я разделяю глубокую обеспокоенность будущим человечества, высказанную Верном. Мы ни в коей мере не должны закрывать глаза на грозящую человечеству опасность вмешательства электронного разума. Да, люди несовершенны – это давно известный факт. Но это не оправдывает вмешательство в нашу человеческую природу суперинтеллекта антропоидов!
Вы просто на секунду представьте, дорогие коллеги, общество так называемых совершенных людей, лишённых слабостей и недостатков. Общество, созданное благодаря модификации представителей человечества «разумными» роботами. Все станут абсолютно правильными, образованными с единственно верным мировоззрением, общей картиной мира, сильными, здоровыми и… Да, да, я думаю, многие из вас догадались – до малейших деталей похожими, т.е., по сути, обезличенными, а, значит, неживыми! Конвергенция робота и человека может привести к единственному неизбежному результату – поглощению человека антропоидом! Разумеется, при условии, если мы вовремя не остановим этот опаснейший процесс. В обществе должен превалировать тезис – человек может и должен совершенствовать себя сам! Это его задача, его собственной воли, а не какого-либо объекта со стороны. Поэтому я выступаю за принятие трёх пунктов декларации, сформулированных Верном.