Тени разума. В поисках науки о сознании
Шрифт:
Опять же можно представить, что человек снабдит компьютер вычислительными критериями для такого различения, и это, возможно, какое-то время будет работать, коль скоро машине останется только генерировать очередные вариации на тему все того же эталона (возможно, так и создается большая часть рядовых «произведений» популярного искусства) — до тех пор, пока плоды такой деятельности не станут вызывать зевоту и нам не захочется чего-нибудь нового. На этом этапе машине потребуется какое-либо подлинноеэстетическое суждение извне, чтобы выяснить, какие «новые идеи» имеют художественную ценность, а какие — нет.
Итак, помимо способности к пониманию, существуют и другие качества, каким полностью вычислительная система никогда не «научится» — например, способность к эстетическомувосприятию. Сюда же, как мне представляется, следует отнести и все прочие качества и способности, что требуют осознания, — например, способность к нравственномусуждению.
Безотносительно к невычислительной природе упомянутых качеств, можно поинтересоваться, являются ли «красота» и «доброта» идеями абсолютнымив платоновском смысле этого слова, где определение «абсолютный» применимо только к истине — в особенности, к математической истине. Сам Платон высказывался в поддержку такой точки зрения. Может быть, осознавая, мы каким-то образом связываемся с этими абсолютами, и именно в этом заключается уникальное предназначение сознания? Может быть, здесь и следует искать ключ к тому, чемнаше сознание является в действительности и для чегооно нам дано? Не играет ли сознание роль своего рода «моста» между физическим миром и миром платоновских абсолютов? Эти вопросы мы еще раз затронем в последнем параграфе книги.
Вопрос об абсолютной природе нравственности имеет самое прямое отношение к юридическим проблемам, описанным в §1.11 . Некоторым образом связан с ним и вопрос о сущности «свободы воли», поставленный в конце §1.11 : возможно ли, что есть нечто, что не определяется наследственностью, влиянием окружения и всевозможными случайными факторами, — некая отдельная «самость», играющая ведущую роль в управлении нашими действиями? Я думаю, что мы пока еще очень далеки от ответа на этот вопрос. С полной уверенностью я могу утверждать (и аргументированно доказывать) лишь одно: что бы ни управляло в конечном счете нашим поведением, это что-то в принципе находится за пределами возможностей тех устройств, которые мы сегодня называем «компьютеры».
8.4. Опасности компьютерных технологий
Любые широкоприменяемые технологии несут с собой как блага, так и опасности. Так, помимо тех очевидных преимуществ, которые дают нам компьютеры, с быстрым развитием этой технологии связано и множество потенциальных угроз обществу. Одной из главных проблем, по-видимому, является чрезвычайная сложность всех совокупностей взаимосвязей, с которыми мы сталкиваемся благодаря компьютерам, — она приводит к тому, что ни один отдельно взятый индивидуум сегодня просто не в состоянии охватить разумом ни происходящее в целом, ни его последствия. И дело не только в самих компьютерах и их технических возможностях, но еще и в почти мгновенной глобальной связи между объединенными в сеть компьютерами по всему миру. Часть возможных проблем находит отражение в нестабильном поведении фондового рынка, где сделки теперь совершаются практически мгновенно на основании общемировых компьютерных прогнозов. Здесь, пожалуй, проблема заключается не столько в недостатке понимания каждым отдельным человеком всей взаимосвязанной системы как единого целого, сколько в нестабильности (не говоря уже о несправедливости), изначально заложенной в систему, которая идеально приспособлена для того, чтобы отдельные ее пользователи мгновенно сколачивали себе состояния путем опережения соперников в скорости счета или быстроте получения информации. Впрочем, вполне вероятно и то, что причиной различного рода нестабильностей и потенциальных опасностей станет одна лишь сложность системы как целого.
Подозреваю, что найдутся люди, которым возможный в недалеком будущем выход уровня сложности системы взаимосвязей за пределы человеческого понимания не покажетсятакой уж серьезной проблемой. Такие люди, возможно, верят в то, что когда-нибудь компьютеры и самиприобретут необходимое понимание системы. Однако, как мы могли убедиться, понимание отнюдь не относится к тем качествам, на которые компьютеры когда-либо окажутся способны, так что помощи с той стороны ждать не приходится.
Из одного лишь факта чрезвычайно быстрого развития компьютерных технологий (приводящего к тому, что компьютерная система чуть ли не на следующий день после своего появления на рынке становится морально устаревшей) вытекают и многие другие дополнительные проблемы. Необходимость в непрерывной модернизации и использование систем, зачастую не прошедших под давлением конкуренции надлежащих испытаний. — это лишь малая их часть, и в будущем ситуация вряд ли изменится к лучшему.
Глубинные же проблемы, с которыми мы только
Разумеется, есть у всех этих разработок и «светлая сторона» — если все сделано правильно. Плоды мастерства других (неважно, художников или ремесленников) сегодня более доступны, и их может оценить гораздо большее количество людей. Что касается проблемы сохранности частной информации, то уже сейчас существуют так называемые «шифры с открытым ключом» (см. [ 138 ]), которыми могут пользоваться как отдельные индивидуумы, так и небольшие компании (при этом не менее эффективно, нежели компании крупные), и которые, по-видимому, обеспечивают абсолютную защиту от «подслушивания». Использование таких шифров стало возможным лишь теперь, при наличии быстрых и мощных компьютеров — хотя эффективность этого способа шифрования до сих пор ограничена вычислительной сложностью факторизации больших чисел (возможно, здесь на смену обычным придут квантовые вычисления; некоторые идеи, указывающие на возможность создания в будущем квантовых компьютеров, изложены в §7.3 , см. также [ 277 , 278 ]). Как я упоминал в §8.1 , возможно, что скоро для защиты от подслушивания мы будем использовать квантовую криптографию, эффективность которой также зависит от скорости выполнения значительных объемов вычислений. Очевидно, что нет однозначного способа оценить преимущества и опасности, порождаемые любой новой технологией, будь она непосредственно связана с компьютерами или нет.
В качестве заключительного комментария к таким компьютерно-социальным проблемам я хочу представить читателю небольшую вымышленную историю, которая в некотором роде выражает то беспокойство, которое я ощущаю в связи с возникновением целой новой области потенциальных проблем. Насколько мне известно, об этом новом классе «компьютерных» опасностей еще никто не говорил, однако мне они представляются весьма серьезными.
8.5. Неправильные выборы
Приближается день долгожданных выборов. На протяжении последних недель были проведены многочисленные опросы общественного мнения. Результаты почти единодушно предсказывают отставание правящей партии по голосам на три-четыре процента. Как и ожидалось, имеются некоторые колебания и отклонения от этой цифры в ту или иную сторону — ожидалось, поскольку цифры в опросах базируются на относительно малых выборках (где-то в пределах нескольких сотен избирателей за раз), тогда как по населению в целом (несколько десятков миллионов человек) наблюдаются существенные изменения от места к месту. В самом деле, предел погрешности каждого из опросов и сам может составить те самые три-четыре процента, так что ни на один из опросов в действительности полностью положиться нельзя. И все же в совокупности свидетельства производят куда более выгодное впечатление. Взятые вместе, результаты опросов демонстрируют гораздо меньшую погрешность, а согласие между ними нарушается как раз таким разбросом, какой предсказывает статистическая теория. Усредненным результатам теперь, наверное, вполне можно доверять, причем погрешность составляет менее двух процентов. Поговаривают, правда, что в канун дня выборов цифры в опросах заметно сместились в пользу правящей партии; а в сам день выборов кое-кого из ранее воздержавшихся (или даже из активных противников) вполне могут «уговорить» отдать-таки правящей партии свой голос. Однако даже если так, это смещение не принесет правящей партии большой пользы, разве что полученный в результате отрыв от ближайшего соперника составит не менее 8% голосов, поскольку только в этом случае правящая партия получит то минимальное большинство голосов, которое необходимо для того, чтобы предотвратить объединение своих противников в коалицию. Впрочем, опросы — это всего лишь предварительные прикидки, разве нет? Только подлинноеголосование выразит действительную волю народа, а какова эта воля, мы узнаем из подсчета голосов в день выборов.