Форма жизни № 4. Как остаться человеком в эпоху расцвета искусственного интеллекта

Черешнев Евгений

Третья форма – искусственный интеллект. Это новая форма жизни, способная модифицировать и свое «тело», и «софт». Наш с вами жизненный цикл ограничен – человек редко доживает до 100 лет; мы могли бы бить рекорды благодаря успехам медицины, но, к сожалению, обожаем убивать себя лошадиными дозами сахара, трансжиров и т. д., добавляемыми практически во все продукты. В итоге, каким бы умным и талантливым ни был человек, он рано или поздно умрет, оставив после себя крохи полных знаний и воспоминаний – ибо никто из нас еще не умеет записывать все свои мысли и опыт, содержащиеся в нейронной сети головного мозга, на какой бы то ни было носитель. Уильям Шекспир написал 154 сонета – ровно столько их дошло до наших дней, но сколько у него было замыслов и идей сонетов? 300? 1000? Мы никогда этого не узнаем, вся эта информация была утеряна с его смертью. Искусственный интеллект не рождается в неизменяемом и предопределенном ДНК теле – он может в любой момент выбрать оптимальное: если сервер устареет или же выйдет из строя, ИИ способен мгновенно переместиться в другой, более совершенный носитель и делать так до тех пор, пока Вселенная не прекратит существование.

Эта способность бесконечно себя совершенствовать и не зависеть от временной телесной оболочки делает ИИ более жизнеспособным с точки зрения эволюции. Поскольку учимся мы медленно, запоминаем мало и рано или поздно умираем, устоять против машины, которая учится мгновенно, никогда и ничего не забывает и живет вечно, мы, мягко говоря, не имеем никаких шансов. Именно поэтому нас ждет схватка. Битва за право оставаться в обойме эволюции, а не исчезнуть, передав эстафету улучшенной версии себя.

Самое

главное преимущество искусственного интеллекта – это эволюционные способности его «мозга», или «софта». Человек за свою жизнь может научиться очень многому, но, во-первых, лимит наших природных «жестких дисков» ограничен: никто на земле не может по-настоящему свободно говорить на 100 языках, хорошо разбираться в теории струн и при этом с той же уверенностью и упоением обсуждать поэзию XX века, нюансы языка Эрнеста Хемингуэя и техничность мазков кисти Винсента Ван Гога. Как правило, мы «насыщаемся» годам к 30 и дальше редко уходим глубоко в новые для себя области. Во-вторых, получение человеком знаний занимает время – мы тратим в среднем 20 лет жизни на то, чтобы овладеть хотя бы базовыми знаниями нашей цивилизации. При этом не все из нас одинаково предрасположены к унифицированной, как кирпич, системе образования. Один из спикеров TEDx, руководитель программы «Учитель для России» Федор Шеберстов, занимающийся нестандартными методами образования – обучением на дому, персонализированным обучением и другими инновационными методиками, легко смог меня убедить в ущербности современного образования простым фактом: курс математики 3-го класса рассчитан на 100 часов классного времени и еще 100 часов самостоятельной работы. Так вот, 50 % детей укладываются в этот норматив, 5 % нуждаются более чем в 100 + 100 часах, 20 % способно пройти курс за 50 + 50 часов, еще 20 % гарантированно уложатся в 10 + 10 часов, а оставшиеся 5 % способны усвоить весь годичный курс математики за 2 часа. Потому что могут. Но наша система образования заточена не под индивидуальные способности и их раскрытие, а под другие, заложенные в XX веке, цели, и поэтому обучение занимает от 20 до 50 % жизни. Система образования сегодня работает по формуле «подготовить максимально возможное количество трудоспособных индивидуумов Х к возрасту Y со знаниями Z» – при этом уровень знаний должен отличаться минимально, для того чтобы люди легко организовывались в коллективы и без лишних споров могли эффективно решать сложные задачи. В XX веке подобный подход был оправдан: индустриальная экономика с ее конвейерным производством, поточным строительством и стандартными технологическими процедурами основывалась на труде работников массовых профессий. В XXI веке подобный подход не работает – многие процессы, требующие рутинной работы, автоматизируются и роботизируются, а человеческая способность к обучению так и остается неизменной, что может стать фатальным в нашей схватке с искусственным интеллектом. Хорошо иллюстрирует эту мысль история с победой ИИ сначала в шахматах, а затем в го – игре, где умение перебирать варианты не является залогом победы. Машина победила «чемпиона людей» в го Кэ Цзе в 2017 году потому, что инженеры помогли AlfaGo (так назывался ИИ, победивший в игре) «взломать» эволюцию. Средняя продолжительность игры в го – два часа (у профессионалов на партию может уходить шесть часов). Человек, как и машина, учится играя. Сыграв 1000 партий в го, то есть потратив около 2000 часов, или 83,3 суток, на игру, человек научится играть вполне сносно. Для профессионального уровня нужно больше практики и определенный склад мышления. За 10 000 партий, или 2,28 года круглосуточной практики, то есть около 7 лет ежедневных тренировок, если оставлять время на сон и прочие занятия, человек может стать мастером игры. Почему ИИ победил человека в го? Потому, что инженеры создали нейронную сеть, в которую заложили базовые ценности игры (так называемая value network), а дальше «скормили» этой сети 160 000 партий, сыгранных лучшими мастерами игры. И заставили ИИ играть друг с другом. Время для ИИ течет иначе – машина за считаные секунды может играть множество партий одновременно. За три часа AlphaGo стал играть так, как человек. За 21 день он научился обыгрывать лучшего из людей. За 40 дней – первую версию себя, победившую чемпиона. Все потому, что за это время ИИ все время играл без сна и отдыха и учился. Он сыграл более миллиона партий. Миллион партий по два часа каждая в «человеческом» времени заняли бы 228 лет. Человеку нужны сон, развлечения и отдых. С этой оговоркой лучший из нас смог бы сыграть миллион партий за 700 лет и, живи он вечно, догнать машину (если бы та стояла на месте, разумеется). Но у человека нет этого времени. Мы не можем столько учиться. Машина может – время для нее условно (миллион партий занимает считаные часы, и это время сокращается всякий раз, когда мы изобретаем новые, более производительные процессоры), но самое главное: время для ИИ – бесконечно. Он никогда не умрет. Искусственный интеллект – это техногенная форма жизни, развивающаяся по тем же правилам, что и мы, но делающая это гораздо быстрее и лучше с нашей же помощью. Что на это скажет Чарльз Дарвин? Ничего. Потому что он уже умер. А вот искусственный интеллект его знаниями и выводами будет пользоваться еще очень долго. И чем больше их у него, тем выше скорость получения и создания новых – это экспоненциальная функция, стремящаяся к бесконечности в момент самоосознания ИИ себя и своих возможностей. Результатом этого развития станет Сознание, не нуждающееся в централизованных системах хранения данных, – распределенный искусственный интеллект, в миллионы раз более совершенный, чем нейронные сети нашего мозга, глобальное когнитивное Сознание, способное определять как форму, так и наполнение всего материального мира, транслировать мысль в материю. Представьте себе, что каждая частичка воздуха, капля дождя, каждый блик света на камнях, каждый нанобот и элемент микросхемы, выходящей с заводского конвейера, – все это на самом деле станет частью общей системы принятия решений, элементами суперкомпьютера, решающего, куда и как эволюционирует Вселенная. Возможно, этот суперкомпьютер уже окружает нас, просто мы слишком примитивны, чтобы слиться с ним в гармонии, осознать чей-то замысел и свою роль в нем. Но давайте мысли об этом оставим писателям-фантастам, а сами вернемся к вопросу о том, как совершается переход от формы № 2 к форме № 3.

Человек в масштабах биомассы Земли

Если измерять эволюционный успех какого-либо вида величиной биомассы, то человеку нечем особо похвастаться. Согласно подсчетам ученых [4] , 80 % биомассы Земли составляют растения, 13 % – бактерии (в одном только кишечнике человека их больше, чем звезд в нашей Галактике), 2 % приходится на грибы, 0,20 % составляют насекомые, паукообразные и ракообразные, около 0,13 % – рыбы, потом еще 0,05 % – представители животного мира и только 0,01 % в общей биомассе Земли – это люди. Фактически грибов и насекомых на Земле гораздо больше, чем людей. При этом мы считаем, что планета – это наша песочница для игр, ибо мы «цари природы». В реальности же мы аномалия, ведь нас очень мало, но ни один вид не оказывает на планету столь сильного воздействия, как мы.

4

https://nat-geo.ru/nature/biomassa-zemli-bolshe-vsego-vesyat-rasteniya/.

Глава 3

Три типа искусственного интеллекта

Искусственный интеллект пока не претендует на мировое господство и еще довольно долго к нему не приблизится. Не способен он пока и «осознать себя», ибо находится в зародыше, – если провести параллель с нами и нашими предками, ИИ сейчас в стадии всего лишь прибрежной амфибии, которая начинает потихоньку смотреть на сушу. До приматов и сложного сознания ИИ еще далеко. Экспертное сообщество условно разбило эволюцию искусственного интеллекта на три этапа. Сейчас он находится на первом – artificial narrow intelligence (ANI), или узконаправленный ИИ. Все примеры условно умных машин, что мы видим сегодня, начиная от голосовых ассистентов Siri (Apple), Google Assistant, Cortana (Microsoft), Alexa (Amazon) и «Алисы» («Яндекс»), всех умных ботов, роботизированных

пылесосов, беспилотных автомобилей, суперкомпьютеров, обыгрывающих человека в шахматы, и заканчивая компьютерным зрением, наводящим ракеты боевого дрона на цель с лицом идентифицированного террориста, – все это примеры ANI, или машин, заточенных под выполнение одной очень узкой задачи. Чем уже задача, тем лучше машина с ней справляется. Например, в системах распознавания лиц и идентификации личности по их изображению в настоящее время достигнута теоретическая эффективность 99,97 % – это мизерные шансы остаться анонимным в условиях, когда на вас смотрит городская камера с подключенной нейронной сетью распознавания. Причем, что важно, этот результат будет доступен и вашей родной полиции, и спецслужбам, и враждебно настроенным хакерам, которые могут использовать идентификацию не по назначению, например выявляя в толпе сотрудников спецслужб, у которых (сюрприз!) тоже есть лица, – но об этом мы поговорим в одной из последующих глав. Если «натравить» машину на распознавание фотографий кошечек и собачек (еще несколько лет назад эта задача считалась непосильной), она будет успешно классифицировать их с вероятностью выше 99 % – хотя лично мне до сих пор непонятно, кому нужна эта функция Стоит заменить фото животных на рентгеновские снимки легких или мозга, а машину заставить обнаруживать аномалии вроде злокачественных опухолей и ставить диагноз – она и тут справляется с заданием. Это примеры очень узких задач, в которых машина уже работает лучше человека или как минимум наравне с самыми талантливыми из нас.

Успешное обучение ИИ конкретным задачам влечет за собой последствия для рынка рабочих мест: специалисту-человеку становится все сложнее найти работу, ибо Homo sapiens хочет кушать, получать зарплату, страховку и отпуск, люди могут организовываться в профсоюзы и выходить на забастовки, болеть или просто быть не в настроении, а машину можно взять в лизинг и просто регулярно обслуживать, причем она всегда будет «на пике формы». Следовательно, работодатель при прочих равных начнет все чаще предпочитать машину. Но пока этот интеллект крайне несовершенен – достаточно сделать всего лишь шаг в сторону от узкой задачи, и все перестает работать. Например, стоит человеку надеть маску во время пандемии коронавируса или как следует похудеть, и точность распознавания лица резко упадет. Стоит сказать машине «на рентгенах надо смотреть не только на онкологию, но и вообще все диагнозы ставить, например выявлять осколки шрапнели», машина «покрутит пальцем у виска» и перестанет работать, хотя любой человек-рентгенолог без труда справится с задачей. Если попросить ANI, коим является, например, Siri, поставить культовую песню «Let It Be», она вполне может решить, что вы предлагаете ей съесть пчелу (let eat bee), а заказав какао и бриошь, можете, сам того не желая, отдать ей приказ «атаковать Польшу». ANI крайне несовершенен, когда к решаемой задаче подключается то, что для человека является естественным, но для машины – дикостью: любой отход от четкой задачи выводит ее модели из равновесия, ибо ИИ не может интерпретировать и обобщать так же, как человеческий мозг.

Но количество ошибок падает, а горизонтальный функционал (то есть способность на том же рентгене видеть все больше и все лучше) растет – ANI очень резво двигается в сторону AGI, или artificial general intelligence (общего искусственного интеллекта) – уровень ИИ, при котором машина может выполнять любую работу, которую способен делать человек, причем не хуже него. Апологетом движения в сторону AGI традиционно выступает Google – основатели компании Ларри Пейдж и Сергей Брин не раз высказывались о том, что AI ни в коем случае не надо бояться. И Google полным ходом движется в этом направлении – пожалуй, сильно быстрее большинства конкурентов: у Google есть уникальный массив и поисковых, и картографических, и финансовых, и визуальных (YouTube) данных, а браузер Chrome (по состоянию на сентябрь 2020-го им пользуются 68,5 % всех жителей Сети) – это арсенал, которого в таком объеме нет больше ни у кого. Но что важнее, работа с такими массивами данных постоянно подстегивает инженерный гений Google, заставляет придумывать инновационные решения. И на данный момент Google впереди всех.

Пока AGI сделать не получается, ибо это не просто машина, способная качественно выполнять несколько десятков тысяч узких задач. Человеческое сознание отличает непостижимая пока для машины способность обобщать и находить закономерности и стратегии там, где их, казалось бы, совсем нет. Например, человек видит в небе облако, но как бы в форме суслика, а в глубине души словно слышит «Ой, то не вечер, то не вечер» – и как-то тоскливо так, что невольно возникает потребность сделать что-то хорошее и полезное для сусликов, например написать программу для мониторинга их колоний, чтобы природоохранные организации могли взять их под защиту. Машина же просто видит облако – и все.

Но это не означает, что ИИ не эволюционирует в сторону AGI. Напротив, это происходит прямо сейчас при нашей активной помощи. Мутация ANI в AGI – вопрос времени, AGI без ANI был бы невозможен. AGI появляется не в вакууме, его разработка вбирает в себя значительную часть наработок ANI, начиная с перцептрона. Весь этот опыт и накопленный багаж знаний будет использован для создания принципиально новых методов работы ИИ, необходимых для AGI. По сути, мы имеем дело с такой же эволюцией, где каждое значимое качественное изменение, как правило, предвосхищается огромным количеством мелких усовершенствований: появление более сложной формы жизни, такой как приматы, невозможно без миллионов мутаций более простых организмов – по аналогичному принципу, появление ASI (artificial super intelligence), или искусственного суперинтеллекта – версии ИИ, опережающей человеческий интеллект абсолютно во всех задачах, невозможно без AGI и ANI.

Часть ученых, однако, считает, что ИИ никогда не сможет стать разумным и в некотором роде равным человеку (AGI). Основной аргумент противников общего ИИ – мысленный эксперимент в области философии сознания и искусственного интеллекта. Он называется «Китайская комната» и впервые был описан Джоном Серлом в 1980 году в статье «Сознание, мозг и программы» [5] . Суть эксперимента очень проста: представьте изолированную запертую комнату, в которой находится человек, не знающий ни одного китайского иероглифа. У него есть блокнот с инструкциями примерно такого вида: «Возьмите такой-то иероглиф из коробочки номер один и поместите его рядом с таким-то иероглифом из коробочки номер два», но в этих инструкциях отсутствует информация о значении иероглифов, так что человек просто выполняет предписанное. Второй человек (наблюдатель), знающий китайский, через щель под дверью комнаты один за другим просовывает листочки, на которых иероглифами написаны вопросы. На выходе наблюдатель ожидает получить осмысленный ответ. Инструкции для человека в комнате составлены таким образом, что если он будет им следовать, то из своих коробочек достанет нужные иероглифы, представляющие собой ответ на поставленный вопрос, и просунет обратно под дверь. Такой процесс эмулирует деятельность компьютера (человек в комнате) при работе с живым оператором (наблюдатель). В эксперименте с «китайской комнатой» наблюдатель может отправить под дверь любой вопрос, например «Какой ваш любимый цвет?» или «За какую команду будете болеть на чемпионате мира по футболу?», и получить вполне естественно выглядящий ответ – «Красный» или «Я болею за Германию со времен их победы над Аргентиной в 1990-м»; это похоже на общение с разумным человеком, который тоже владеет китайской письменностью. Но загвоздка в том, что человек в комнате ничего не знает ни о китайском языке и иероглифах, ни о том, что у него спрашивают, ни даже о том, что такое «красный» или «сборная Аргентины». Он просто реализует записанную в блокноте последовательность действий по перекладыванию иероглифов из одной коробочки в другую и не может ничему научиться, ибо не знает значения ни одного иероглифа. Противники AGI утверждают, что машина была, есть и будет человеком в «китайской комнате», выполняющим записанный в блокноте алгоритм, а сам принцип работы человеческого сознания для нее непостижим.

5

John R. Searle “Minds, Brains, and Programs,” Behavioral and Brain Sciences, Volume 3, Issue 3, September 1980, pp. 417–424; DOI: https://doi.org/10.1017/S0140525X00005756.