Сингулярность
Шрифт:
[17] Niven, Larry, «The Ethics of Madness», If, April 1967, p. 82–108. Reprinted in Neutron Star. Larry Niven, Ballantine Books, 1968.
[18] Penrose, R., The Emperor’s New Mind, Oxford University Press, 1989.
[19] Platt, Charles, Частное сообщение.
[20] Rasmussen, S. et al., «Computational Connectionism within Neurons: a Model of Cytoskeletal Automata Subserving Neural Networks», in Emergent Computation. Stephanie Forrest, ed., p. 428–449. MIT Press, 1991.
[21] Searle, John R.,
[22] Sims, Karl, «Interactive Evolution of Dynamical Systems», Thinking Machines Corporation, Technical Report Series (опубликовано в Toward a Practice of Autonomous Systems: Proceedings of the First European Conference on Artificial Life. Paris, MIT Press, December 1991.
[23] Stapledon, Olaf, The Starmaker. Berkley Books, 1961 (но из вещи, написанной предположительно до 1937 года).
[24] Stent, Gunther S., The Coming of the Golden Age: A View of the End of Progress. The Natural History Press, 1969.
[25] Swanwick Michael, Vacuum Flowers, печаталось сериями в Isaac Asimov’s Science Fiction Magazine, December(?) 1986 – February 1987. Переиздано Ace Books, 1988.
[26] Thearling, Kurt, «How We Will Build a Machine that Thinks», семинар в Thinking Machines Corporation. Личное сообщение.
[27] Ulam, S., Tribute to John von Neumann, Bulletin of the American Mathematical Society, vol. 64, nr 3, part 2, May, 1958, p. 1–49.
[28] Vinge, Vernor, «Bookworm, Run!», Analog, March 1966, p. 8–40. Перепечатано в True Names and Other Dangers. Vernor Vinge, Baen Books, 1987.
[29] Vinge, Vernor, «True Names», Binary Star Number 5. Dell, 1981. Перепечатано в True Names and Other Dangers. Vernor Vinge, Baen Books, 1987.
[30] Vinge, Vernor, First Word, Omni, January 1983, p. 10.
Что, если сингулярность не наступит?
«Слайды» к моему выступлению на семинаре «Мысли о перспективах» (Long-Term Thinking), состоявшемуся 15 февраля 2007 года, можно найти по адресу: https://edoras.sdsu.edu/~vinge/longnow/
Необходимое уточнение
Дав своему выступлению такое название, я, разумеется, должен дать определение технологической сингулярности и кратко разъяснить, что имею в виду под этим термином.
Кажется весьма вероятным, что с имеющейся у нас технологией в самом ближайшем будущем мы сможем создать существа, превосходящие человека по всем интеллектуальным
Предыдущая фраза по определению лишает практического смысла любое долгосрочное планирование в будущем сингулярности.
Однако может случиться, что сингулярность не наступит, и в таком случае любое планирование, выходящее за пределы ближайших пятидесяти лет, может приобрести значительную практическую важность. В любом случае хороший автор научной фантастики (или планировщик возможного сценария) должен рассматривать альтернативные исходы.
Следует добавить, что альтернативы, которые я намерен сегодня обсудить, предполагают, что способ путешествия быстрее света не изобретен!
Важное замечание для тех, кто набредет на это выступление вне контекста:-) Я по-прежнему считаю Сингулярность наиболее вероятным из некатастрофических исходов в нашем ближайшем будущем.
Существует множество правдоподобных катастрофических сценариев (см. Мартин Рис, Our Final Hour), но сегодня я попробую рассмотреть те виды будущего без сингулярности, где человечество все-таки сможет выжить.
Век несбывшихся мечтаний
Правдоподобным объяснением «ненаступления сингулярности» является то, что мы еще не научились «делать нужный софт» (или, если вы склонны выражаться мистически, «находить душу в железе»). Вот некоторые возможные симптомы:
• Создание программного обеспечения (software creation) по-прежнему остается отраслью программотехники (software engineering).
• Программные проекты, создаваемые для использования возрастающей мощи аппаратуры, заканчиваются все более и более оглушительным крахом. Например:
• Провалы проекта настолько глубоки, что никаким количеством денег их невозможно замаскировать, единственный вариант – решительно отказаться от проекта.
• Сбои в крупных, полностью автоматизированных проектах приводят к катаклизмам (недосмотр человека-диспетчера приводит к столкновению двух самолетов, а глюк в полностью автоматизированной системе может свести в одной точке пространства-времени десяток самолетов).
• Такие провалы ведут к снижению спроса на более совершенную аппаратуру, которую невозможно должным образом использовать, что, в свою очередь, ведет к тому, что производители в своих планах откатываются назад. Фактически перестает действовать закон Мура – пусть даже не видно никаких физических барьеров на пути к дальнейшему совершенствованию микросхем.
• В результате прекращаются фундаментальные исследования в области материаловедения – в том числе из-за недостатка новых поколений компьютерных систем для поддержки таких исследований.
• Последними падут жертвой стагнации аппаратные улучшения простых и высокорегулярных структур (вроде хранилищ данных). В долгосрочной перспективе у нас будут необычайно хорошие (однако ничего прорывного) аудио-визуальные продукты для развлечений и огромные базы данных (но без программного обеспечения, позволяющего с ними качественно работать).