2084: Счастливый новый мир

Белл Алекс

«Универсальный искусственный интеллект: естественный прогресс или угроза?» – так звучала главная тема съезда. Эту открытую полномасштабную дискуссию инициировало ОЧ – «Объединенное Человечество» – всемирная организация, пришедшая на смену Организации Объединенных Наций. ООН просуществовала почти столетие, сыграв важную роль в разрешении многих международных проблем, но до самого конца так и не избавилась от сильного перекоса в своей деятельности из-за влияния богатейших стран – прежде всего США, являвшихся ее главным спонсором. Сама структура ООН, образовавшаяся по итогам Второй мировой войны, с течением времени, в двадцать первом веке, перестала соответствовать новым реалиям. Некоторые из государств, игравшие когда-то ключевую роль на мировой арене, а потому имевшие особенные привилегии (например, право вето по важнейшим вопросам), теперь отошли на второй план и мало чем заслуживали особого положения. Другие страны, бывшие, наоборот, в числе самых бедных и слабых, теперь вышли на лидирующие позиции. Дисбаланс реальных возможностей стран в современном мире и их влияния в ООН становился все более очевидным и буквально сводил на нет смысл деятельности организации до тех пор, пока на ее чрезвычайном заседании не было принято давно назревшее решение о глубокой трансформации этой глобальной структуры. Отныне она представляла собой не междусобойчик наций-победителей давно минувшей войны, а подлинный представительный орган современного человечества. Политический вес каждой нации определялся с помощью сложного алгоритма и регулярно уточнялся. Этот алгоритм учитывал ряд показателей – таких как валовый национальный продукт, численность населения, уровень образования, способ демократической смены власти и некоторые другие факторы. По важнейшим мировым вопросам предусматривался даже такой революционный механизм, как всемирное индивидуальное голосование. Если на кону в прямом смысле слова стояла дальнейшая судьба человечества, то решение принималось большинством голосов путем прямого волеизъявления всех жителей земного шара посредством тайного индивидуального электронного голосования. Правда, за тридцать лет к такой процедуре еще не пришлось прибегнуть ни разу. Критики указывали на то, что «Объединенное Человечество» во многом было не лишено недостатков своего предшественника, ведь голоса самых развитых стран здесь тоже весили намного больше, чем менее богатых и успешных; при решении не терпящих отлагательств глобальных проблем оставалось немало бюрократизма, волокиты и подковерных интриг. И все же, по сравнению с явно отжившей свой век ООН, это был огромный шаг вперед.

И вот теперь человечество подошло слишком близко к самой опасной черте за всю историю своего существования. Премию Стивена Хокинга в области компьютерных наук за 2083 год (аналог Нобелевской премии для новых естественных наук, не включенных в категории нобелевских) присудили международной группе американских и японских исследователей, работавших в объединенной команде Массачусетского технологического института и Токийского университета, подошедших вплотную к созданию, возможно, самой революционной технологии.

Словосочетание «искусственный интеллект» вошло в обиход в научных дискуссиях уже в середине прошлого века, на заре цифровой эры, когда мощность самых совершенных компьютеров была в триллион раз меньше, чем в современных наручных часах. Однако уже тогда ученые и фантасты мечтали о создании машин, мыслящих самостоятельно и независимо, подобно человеку, но гораздо быстрее. Они наивно верили, что создание такой супермашины займет десятилетие, от силы два, хотя, как выяснилось позднее, на том допотопном уровне развития компьютерной техники и при отсутствии понимания механизмов работы человеческого сознания гораздо реальнее муравью было мечтать о полете в соседнюю Галактику. Однако закон Мура об удвоении мощности компьютеров каждые два года, на удивление скептикам, работал исправно и на протяжении следующего столетия. Все это время в самых разных областях человеческой деятельности возможности компьютеров превосходили или как минимум быстро догоняли человека. Победа компьютерной программы над человеком-чемпионом по шахматам того времени (Гарри Каспаровым) произошла впервые в конце прошлого века, а всего через несколько лет начали проводить отдельный шахматный чемпионат между компьютерами, так как у людей не осталось никаких шансов соревноваться с ними. Но сама по себе эта победа не означала ничего, кроме констатации простого факта, что невероятно быстрый механический перебор возможных ходов в игре со строгим набором правил и ограниченным количеством возможных позиций теперь работает эффективнее человеческой интуиции. Но стоило задачу хоть немного усложнить или внести в нее малейшую неопределенность, как самые мощные компьютеры мира впадали в ступор, сбиваясь на бессмысленные циклические вычисления.

И все же прогресс ни останавливался. Спустя двадцать лет, в 2016 году, компьютер так же безжалостно переиграл чемпиона мира по восточной игре го, количество возможных ходов в которой превосходит шахматы на несколько порядков. Удивительной оказалась не сама победа, а то, как она была одержана. На этот раз в ключевые моменты партий компьютер придумывал ходы, непонятные даже самым искушенным ее мастерам. Казалось, что он порой играл во вред самому себе, ослабляя свою позицию, но это так странно запутывало ситуацию на доске, что гроссмейстер го в растерянности тоже начинал ошибаться и в итоге проигрывал. Иными словами, компьютер уже не просто играл в го, как раньше в шахматы, просто механически просчитывая ходы. Теперь он тонко, хитро и целенаправленно боролся с конкретным живым человеком, словно читая по сделанным им ходам потайные мысли соперника и издевательски играя его слабостями. Создатели этой сверхсложной самообучающейся программы признались, что подобную тактику игры их творения они не программировали – до нее алгоритм, сыгравший перед матчем с человеком сам с собой миллионы партий, каким-то образом «додумался» сам. Вероятно, это был первый случай, когда джинн самостоятельного мышления машины, пусть даже в таком пустяковом деле, как игра в го, действительно вырвался из бутылки.

Впрочем, и после этого прогресс в сознании искусственного разума продвигался не так быстро, как многие фантазировали. Сингулярности – точки, когда разумность компьютеров превзойдет интеллектуальную мощь всего, вместе взятого человечества, не произошло ни в 2030 году, как это прогнозировали многие футурологи, ни много позже. Количество вычислений в секунду быстро росло. Когда транзисторы уменьшились до размера в несколько молекул, достигнув естественного предела компактности, вычислительные платы, в прошлом двумерные, приобрели объем, что дало толчок к очередному витку роста их производительности. После 2030 года все шире стали использоваться квантовые эффекты, хотя полноценный, надежный универсальный квантовый компьютер, появление которого предсказывали как скорую неизбежность, до сих пор не был создан. Возможно, этому препятствовали какие-то базовые, еще не познанные законы природы.

Универсальный компьютерный сверхинтеллект оставался недостижимым, но локальный искусственный интеллект, то есть способность компьютерных алгоритмов, не претендующих на сравнение с работой всего человеческого мозга, решать конкретные важные и сложные задачи, проникал во все области деятельности человека с каждым годом все глубже, обычно меняя при этом окружающий мир к лучшему. Технологии делали все менее нужным участие людей в производственных процессах. Теперь даже само понятие безработицы, которое в прошлом всегда несло в себе негативный смысл, окрашивалось в совершенно новые тона, означая в первую очередь освобождение личного времени человека от физически тяжелых или скучно-рутинных обязанностей. В новом счастливом мире многогранное творчество во всех его проявлениях стало главным призванием всех талантливых и мыслящих людей – по крайней мере, в развитых странах планеты. Люди, генетически не способные к высокому творчеству, все равно имели гарантированный доход, позволявший им качественно удовлетворять все их потребности, хотя социальный статус таких граждан был ниже, чем у «элиты». Но это приводило лишь к уменьшению их возможностей иметь детей от наиболее «качественных» представителей противоположного пола. В некотором смысле, общество из «лучших побуждений» в конце XXI века оказалось разделено на «новые» касты (грейды), но при этом государства большинства стран старались, чтобы обладатели низких грейдов не чувствовали себя обделенными или тем более несчастными. После 2030 года локальный интеллект поднял на новую, еще недавно недосягаемую высоту урожайность сельского хозяйства, причем еды во всем мире оказалось не только больше, но она становилась дешевле и здоровее. Не менее существенный прогресс наблюдался в энергетике, медицине, индустрии развлечений. Многие человеческие профессии навсегда ушли в прошлое. К 2060 году не осталось буквально ни одной сферы человеческой деятельности, которая была бы эффективной, конкурентоспособной, да и попросту возможной без использования локального ИИ.

Но лишь сейчас, в 2084 году, момент, о котором мечтали поколения ученых и которого так страшились философы-фантасты, наступил. Исследователи, соединившие мощности четырех крупнейших суперкомпьютеров мира, работавшие над этим проектом более пятнадцати лет, построили систему, идеально моделирующую процесс создания, развития и обновления нейронов человеческого мозга, включая все многообразие связей между ними, но при этом работающую несравнимо быстрее. Первые тесты показали, что система SHANE, даже включенная в строго контролируемом режиме всего на одну миллионную своей мощности, без малейших затруднений прошла серию усложненных тестов Тьюринга [10] (то есть заставляла ничего не подозревающих людей верить в то, что они в течение часа общаются с живым человеком, а не с программой). Специализированные алгоритмы для прохождения этого теста давно успешно справлялись с ним. Удивительное заключалось в том, что универсальный интеллект прохождению теста Тьюринга никто специально не обучал. Ему просто объяснили задание, и он сразу сам щелкнул его, как мягкий миндальный орешек.

10

Тест Тьюринга – тест, предложенный Аланом Тьюрингом в 1950 году в статье «Вычислительные машины и разум» (Computing Machinery and Intelligence) для проверки, является ли компьютер разумным в человеческом смысле слова.

Роберт сел в эргономичное кресло, положив очки виртуальной реальности рядом с собой. Еще один робот, пока до начала мероприятия оставались минуты, подкатился к нему, торопливо рассказывая что-то о новой системе автоматической обработки научных текстов на разных языках с мгновенным поиском нужных ссылок и подборкой цитат. Роберт не отреагировал, и тогда робот подкатился совсем близко к нему, буквально тыкая монитором в лицо. Ему внезапно захотелось треснуть эту назойливую машинку так, чтобы она прямо здесь развалилась на запчасти до мелких винтиков. Дома он пару раз так делал в юности, но теперь, в таком солидном месте, он сдержался и лишь настойчиво отодвинул механизм от себя рукой. Робот, словно обидевшись, демонстративно постоял какое-то время к нему спиной и затем, не торопясь, укатился восвояси.

– Роб, и ты здесь? И почему я не удивлен тем, что мы здесь встретились?

Сияющая белозубая улыбка принадлежала Тэйлору Дэвису, темнокожему философу, ставшему уже прижизненным классиком, с которым Роберт пересекался в аспирантуре Гарварда. Тэйлор был старше лет на десять, но при своем почти двухметровом росте выглядел молодо, максимум на тридцать. Тэйлор являлся одним из видных апологетов нового философского течения, утверждавшего, что истинная цель любого прогресса, в том числе научного, состоит в обретении человеком наибольшего и как можно более продолжительного счастья. Так как все в мире, включая науку, развивается по спирали, основатели этой доктрины считали, что ее корни произрастают из идей греческого философа Эпикура. Как и древние эпикурейцы, они считали источником высшей радости человека позитивное общение с окружающими, большое количество друзей, всестороннее развитие интеллекта и благотворительность во всех ее формах. Но, естественно, все эти радости теперь еще и сочетались с современным уровнем технологий.

– Привет! Рад тебя видеть. Я только приехал. Ты был на заседаниях в предыдущие дни?

– Да. Кажется, дело решенное. На одно выступление против приходится несколько докладов за. Почти все считают, что сомневаться в полезности универсального ИИ – глупость, ретроградство, попытка лечь на рельсы перед поездом прогресса, который нельзя остановить. Молодые ученые, включая твоих коллег-физиков, захлебываются от восторга и открывающихся перспектив. Я уже не говорю о компьютерщиках, ведь они теперь будут чувствовать себя самыми важными людьми на свете. Против – только убеленные сединами гуманитарии. Пытаются, как они говорят, пока не поздно, зажечь красный свет перед падением поезда прогресса с рельсов прямо в бездонную пропасть. Молодые лишь улыбаются. Впрочем, ты знаешь, что лично я – скорее на стороне скептиков.