Форма жизни № 4. Как остаться человеком в эпоху расцвета искусственного интеллекта
Шрифт:
«Китайская комната» действительно выглядит убедительно и описывает подавляющее большинство сфер применения узконаправленного ИИ (ANI). Но в этом примере, равно как и в других концепциях, оспаривающих способность машины освоить мыслительную деятельность, на мой взгляд, есть три фундаментальных пробела. Поэтому я бы не спешил ставить крест на эволюции «тупого алгоритма».
Первая проблема заключается в ограниченности подхода автора концепции «китайской комнаты» к описанию проблемы.
История науки и техники полна примеров того, как при освоении новых сфер изобретатели пытались опереться на костыли старых решений или представлений. Тут и шагающий паровоз английского инженера Уильяма Брантона, и пароход с приводом на весла американского изобретателя Джона Фитча, и попытки создать летательные аппараты тяжелее воздуха с машущими крыльями. Карл Маркс в «Капитале» высказывался по этому поводу так: «До какой степени старая форма средства производства господствует вначале над его новой формой, показывает, между прочим, даже самое поверхностное сравнение современного парового ткацкого станка со старым, современных приспособлений для дутья на чугунолитейных заводах – с первоначальным немощным механическим воспроизведением обыкновенного кузнечного меха и, быть может, убедительнее, чем всё остальное, – первый локомотив, сделанный до изобретения
Аналогично, наивно предполагать, что AGI, способный обрабатывать информацию с той же эффективностью, что и человек, станет работать по принципу «махания крыльев», или заложенных алгоритмов. Безусловно, AGI окажется сложным симбиозом технологий, но далеко не факт, что он будет состоять из понятных нам алгоритмов и нейронных сетей – возможно (даже скорее всего), при его создании будут использоваться принципиально новые подходы. Но он точно сможет самообучаться, современные методики обучения ИИ подразумевают в том числе обучение по принципу «что хорошо, а что плохо». Да, пока это не означает, что наш человек в комнате сможет выучить китайский по просовываемым ему под дверь иероглифам. Но представьте на секунду, что в комнате стоит огромная плазменная панель. И каждый раз, когда под дверь просовывается листок с иероглифами, на телевизоре включается видеоролик, подробно описывающий значение фразы, иллюстрирующий объект, описываемый иероглифами, и его связи с другими объектами – и все это на всех языках мира, в том числе на китайском. У человека в комнате нулевые знания, но фотографическая память, он ничего не забывает, его нейронные сети постоянно адаптируются под получаемую информацию, а время не имеет значения. При правильно построенном обучении человек в комнате со временем (речь о сотнях тысяч человеческих лет, но для машины это могут быть всего лишь часы) сможет отвечать на любой вопрос не хуже всех людей, которые помогали ему учиться. Просто потому, что машину перестанут учить махать крыльями, как птица, а снабдят планером с мотором. Пример немного утрированный, но ничего невозможного в нем нет.
Вторая проблема заключается в самом понимании принципа сознания. Мы, люди, безусловно, считаем себя венцом природы, а свой мозг – абсолютной загадкой. Во многом это правда, о чем мы поговорим в следующей главе, но с точки зрения машинного обучения мы мало чем отличаемся от индивидуума в «китайской комнате». Раз человек может обучаться, почему бы и машинам не научиться учиться, как мы? Когда человеческий детеныш появляется на свет, он не владеет ни китайским, ни английским, ни русским, не понимает значения слова «красный» и словосочетания «сборная Германии». Он не в курсе, что такое «горячо» или «холодно» и уж точно не знает принципа неопределенности Гейзенберга. Но… он учится. Ребенок несколько лет получает огромное количество информации на вход (листки с иероглифами под дверью), а со стороны родителей и взрослых в целом, равно как и от собственной нервной системы, – подкрепление информации (условную маркировку): если он обжегся и ему больно, он запоминает, что открытый огонь небезопасен. Упал, ушибся, порезался – больно; значит, все, что к этому привело, небезопасно. Если мама говорит, что лезть ножницами в розетку небезопасно, значит, она имеет в виду, что будет больно. Больно – это плохо, не хочу. Так, постепенно, через многочисленные итерации, нейронная сеть мозга получает некую первичную картинку окружающей действительности, определяющую базовые реакции организма на мир – день, ночь, больно, приятно, комфортно, безопасно, вкусный зефир и мороженое… К этим маркерам «притягиваются» новые, связанные с ними, и происходит это в геометрической прогрессии – вчера ребенок не знал, почему небо синее, а сегодня уже задает вопрос о том, откуда берутся дети и он в частности. Если это не прогресс, то что? Родители говорят на определенном языке, что для мозга означает: каждый предмет, действие или абстракция «вкусно» маркируются неким вербальным маркером (звуком, что издает мама). В школе этот голосовой маркер отождествляют с письменным маркером, что позволяет не просто диктовать ответ «обратно под дверь», но и графически писать от руки, а не просто выбирать иероглиф из коробочки. Причем все эти «вкусно» и «радостно» тоже есть не что иное, как разновидность дополнительных маркеров-классификаторов для информации, формируемых на уровне гормонов.
И вот наш ребенок, который 10 лет назад мог только кушать, какать и кричать (не обязательно в такой последовательности), уже постоянно задает вопросы на вполне понятном вам языке, постоянно обогащает свою базу знаний, систему ценностей (хорошо/плохо), словарный запас, и… его уже не остановить! И все потому, что ему не просто совали записки с иероглифами под дверь, но одновременно давали тысячи пояснений к каждой из них, и все были детальными и связными. Мое мнение: человеческое сознание, безусловно, не чета современным нейронным сетям, но тем не менее оно – результат обучения нейронной сети нервной системы на входящих данных с глубокой разметкой и интерполяции уже полученных данных, не более. В каком-то смысле мы тоже машины. Просто, если вернуться к примеру с «китайской комнатой», детей мы учим, не просто просовывая иероглифы под дверь; мы даем им детальные описания, картинки, звуки, сладости (когда информацию надо закрепить), включаем в комнате ТВ-панель со всеми возможными знаниями и делаем еще тысячи вещей, чтобы ребенок учился быстрее. Если мы будем так же поступать с машинным сознанием, результат тоже изменится – ИИ начнет учиться и адаптироваться. С точки зрения описываемого подхода к сути жизни и ее разновидностей человек – это просто очень совершенная машина с конечным сроком годности.
Современный ИИ, безусловно, несовершенен с точки зрения человеческой нервной системы, но, в отличие от нас, срок годности машинного интеллекта неограничен. Рано или поздно при правильном обучении (прогрессирующая методика, не статика) и усовершенствовании технической базы, а конкретно парадигм программирования, квантовых компьютеров, серверов, способных обслуживать многоуровневые нейронные сети без расходования энергии в масштабах небольшой страны, как это делают Google, Apple, Facebook, IBM, Amazon сегодня, машины нас догонят. Так же, как нас догоняют собственные дети, а иногда (как, например, в случае с Эйнштейном и Ньютоном) еще и обгоняют. И произойти это может совершенно обыденно и в то же время неожиданно для человека, как в рассказе Клиффорда Саймака «Театр теней» [6] .
6
Саймак К. Театр теней. – М.: Эксмо, 2008.
Наконец, третья
7
https://www.bbc.com/russian/science/2014/12/141202_hawking_ai_danger.
8
https://www.youtube.com/watch?v=Ra3fv8gl6NE.
Возможно все. Просто надо вытащить свое сознание из коробки. На искусственный интеллект не стоит смотреть как на изолированный элемент в комнате, который тупо перекладывает бумажки. Он существует не в вакууме. Вместо этого представьте человечество и все, что мы производим, включая машины, в виде роя, муравейника, коллективного разума (ну или «Матрицы»). Сейчас в нашем рое есть интеллектуалы, ученые, прожигатели жизни, популярные блогерши, преступники, президенты стран и есть ноды искусственного интеллекта – точки, элементы роя, которые обслуживают только машины, не люди. Например, вы уже не знаете, как работает поиск по почтовому ящику, – это делает машина. Вы не представляете себе банковское приложение без службы поддержки, на которой первую линию всегда обслуживает машина, вы не умеете ездить в новые места без навигатора (мозг утратил эту способность и отдал ее машине), вы не в силах представить себе сложное устройство сотовой сети во всех деталях вроде идентификации абонентов, маршрутизации звонков, питания и еще множества вещей – ведь всем этим управляют машины. И мы постоянно учим их делать все больше работы и все лучше, ибо сами хотим делать все меньше, а желательно – вообще ничего. С таким подходом наш рой, коллективный разум постепенно будет «выращивать» все больше элементов под искусственным управлением. И однажды встанет простой вопрос: «А это чей вообще муравейник? Кто в нем главный?» И это так же очевидно, как и то, что потомок обезьяны, когда-то взявшей палку в руку, однажды ступит на Марс.
Не стоит списывать со счетов и тот факт, что отец-основатель компьютерной науки и понятия искусственного интеллекта в том виде, в котором оно употребляется на сегодняшний день, Алан Тьюринг считал, что машина рано или поздно сможет общаться с человеком на равных. И даже придумал так называемый тест Тьюринга, пройдя который, машина докажет, что неотличима от человека. Ни одна машина этот тест пока не прошла; вернее, были близкие прецеденты, но четкого мнения по вопросу нет: в 2014 году имел место кейс «Жени Густмана» – алгоритма, который, как заявлялось, формально прошел тест Тьюринга, так как смог убедить около трети судей в том, что он человек. Проблема в том, что сам Тьюринг описал критерии прохождения теста довольно туманно, не определяя долю обманутых собеседников-людей и ограничившись высказыванием, что «у среднего собеседника будет 70 % шансов определить, был ли его ИИ-собеседник человеком или машиной, после пятиминутного собеседования». Если критерий 70 %, то «Густман» не прошел. Главная же проблема в другом: успехи в прохождении теста Тьюринга мало связаны с приближением нас к AGI, ибо «Женя Густман» и все предыдущие претенденты на успешное прохождение теста всего лишь коммуникационные боты разной степени сложности, то есть они решают узкую задачу «обмануть человека, убедив его, что я не робот». Это может считаться версией ANI, но к AGI не имеет отношения.
Это натолкнуло многих на понимание узости подобного подхода к созданию ИИ. В настоящее время ведущие разработчики в области ИИ перестали ставить своей целью прохождение их детищами теста Тьюринга и сфокусировались в основном на изучении и описании самого понятия «разум». Они стремятся не просто скопировать поведение человека, а произвести на свет нечто имеющее именно зачатки разума, то есть сеть принятия решений, способную обучаться самостоятельно и менять свои представления о приоритетах, добре и зле не по указке сверху, а на основании получаемого опыта. Как ни странно, свою значимость и незаменимость на этом пути обнаружили другие науки, например нейробиология, психология (книга «Думай медленно… решай быстро» [9] нобелевского лауреата Даниеля Канемана никогда еще не была так актуальна), генетика, эволюционная биология и биоинформатика, так что сегодня ИИ пытаются создать не только математики или программисты. В их вселенной ИИ – это действительно «китайская комната», но, когда им помогают светила других наук, все меняется. И вопрос появления ASI – тоже, как ни странно, лишь вопрос времени.
9
Канеман Д. Думай медленно… решай быстро. – М.: АСТ, 2013.