Стартап. Стэнфорд, весна 2012 г.
Шрифт:
Существуют две базовые парадигмы. Луддитская парадигма гласит, что машины — это плохо, и вы должны их уничтожить, пока они не уничтожили вас. Это похоже на то, как работники текстильных фабрик уничтожают хлопкопрядильные станки, чтобы они не захватили отрасль переработки хлопка. Парадигма Рикардо, напротив, утверждает, что технологии — это благо в фундаментальном смысле. Это торговая догадка экономиста Дэвида Рикардо (David Ricardo): в то время как технология замещает людей, она освобождает их для бОльших свершений.
Исходя
Графики выше отражают базовую теорию. Без торговли вы получаете меньшую производительность. С объединением производства и специализации вы расширяете границы. Создается бОльшая ценность. Эта торговая система взглядов — один из способов взглянуть на технологии. Некоторые работники прядильных фабрик потеряют свою работу, но фабричная цена футболок немного упадёт. Таким образом, рабочие, нашедшие другую работу, теперь занимаются чем-то более эффективным и могут позволить себе больше одежды за те же деньги.
Вопрос в том, останется ли ИИ чем-то, чем можно торговать. Это было бы чисто по Рикардо. Существует естественное разделение труда. Люди хороши в каких-то вещах. Компьютеры хороши в других. Так как они существенно отличаются друг от друга, ожидаемые выгоды от торговли высоки. Таким образом, они торгуют и реализуют эти выгоды. В данном сценарии ИИ не является заменой людям, но скорее дополнением.
Однако все зависит от относительной величины выгод. Сценарий выше реализуется в том случае, если ИИ немного лучше человеческого интеллекта. Но все может пойти по-другому, если ИИ окажется сильно лучше. Что, если он сможет делать в 3000 раз больше, чем человек в любых областях? Будет ли смысл ИИ вообще торговать с нами? Люди, в конце концов, не торгуют с мышами и обезьянами. Так что, хотя теория Рикардо — сильное экономическое предположение, в предельных случаях появляются аргументы в пользу Луддитской парадигмы.
Можно переформулировать ситуацию как борьбу за контроль. Насколько люди контролируют вселенную? По мере того как ИИ становится сильнее, мы получаем все больше контроля. Но потом ИИ достигает точки перегиба, где он становится сверхчеловеческим, и мы теряем контроль полностью. В этом качественное отличие от большинства технологий, которые дают людям больше контроля над миром без конца. У большинства технологий нет точки перегиба. Так что до тех пор пока компьютеры могут обеспечивать нам контроль и преодоление неизвестности, есть вероятность зайти слишком далеко. Мы можем создать суперкомпьютер в облаке, который назовет себя Зевсом, и начнет пулять молниями в людей.
III. Возможности ИИ
Величие и непонятность — это интересные вопросы. Но вопрос, можно ли, и каким образом можно поднять денег при помощи ИИ, может быть еще интереснее. Так насколько велики возможности, даруемые нам ИИ?
A. Не рановато ли для ИИ?
Все, о чем мы говорили в классе, остается важным. Вопрос тайминга здесь особенно важен. Сейчас может быть все еще очень рано для ИИ. Нужны обоснованные доводы. Мы знаем, что часто проекты будущего проваливаются. Сверхзвуковые самолеты 70-х провалились: они были слишком шумные, люди на них жаловались. Наладонники типа iPad из 90-х и смартфоны 1999 провалились. Siri — это, вероятно, пока еще ранняя пташка. Так что пока еще очень непонятно, пришло ли время для ИИ.
Но мы можем попробовать привести доводы об ИИ, сравнивая его с вещами типа биотеха. Если бы у вас была возможность заняться ИИ или штуками из разряда биотех 2.0, которые мы осветили на предыдущем занятии, традиционный взгляд показал бы, что биотех — это верный выбор. Возможно, биоинформационная революция уже сейчас начинает оказывать влияние на людей, или начнет в ближайшем будущем, а реальное прикладное использование ИИ куда более отдаленно. Но традиционный взгляд не всегда прав.
B. Единогласие и скептицизм
На прошлой неделе в Санта Кларе произошло событие под названием “5 лучших венчурных инвесторов, 10 технологических трендов” (5 Top VC’s, 10 Tech Trends). Каждый инвестор сделал два предсказания по поводу технологий на следующие 5 лет. Аудитория голосовала, согласна ли она с каждым предсказанием. Одно из моих предсказаний было в том, что биология превратится в информационную науку. Аудитория проголосовала: море зеленого. 100% согласились с предсказанием. Ни одного несогласного. Возможно, мы должны занервничать. Единодушие в массах может сильно сбивать с толку. Возможно, стоит сильнее задуматься над тезисом “биотех как информационная наука”.
Единственная идея, которую люди посчитали плохой, была о том, что все машины станут электрическими. 92% аудитории проголосовало против этого. Есть много причин предвзято относиться к электрокарам. Но теперь одной причиной меньше.
Ближайший к ИИ вопрос, который обсуждался, был в том, продолжит ли действовать закон Мура. Аудитория разделилась 50/50 по этому вопросу. Если он продолжит действовать, то есть если будет происходить более чем удвоение каждые 18 месяцев, то, кажется, мы получим что-то типа ИИ уже в ближайшие годы. И в то же время большинство людей считают, что ИИ куда дальше от нас, чем биотех 2.0.
C. (Скрытые) пределы
Один из способов сравнения биотеха и ИИ — это подумать, нет ли там серьезных — и может скрытых — пределов в каждом из них. Сюжет революции биотеха: мы собираемся обратить вспять и вылечить все типы болезней, так что если вы просто доживете до момента x, вы сможете жить вечно. Это неплохой сюжет. Однако, весьма вероятно, существуют скрытые барьеры, подводные камни. К примеру, возможно, различные системы в организме человека действуют друг против друга для достижения равновесия. Теломераза помогает клеткам делиться неограниченное количество раз. Это важно, поскольку если клетки не делятся, вы перестаете расти и начинаете стареть. Так что первая линия рассуждений заключается в том, что вам надо пить красное вино и делать всё возможное для сохранения теломеразы.
Проблема в том, что неограниченное деление клеток начинает походить на рак в какой-то момент. Так что возможно, что старение и рак влияют друг на друга взаимоисключающе. Если бы люди не старели, они бы быстрее умирали от рака. Но если вы отключите теломеразу раньше, вы просто постареете быстрее. Устраняя одну проблему, получаем другую. Непонятно, где тут правильный баланс, могут ли быть преодолены эти препятствия вообще, существуют ли они в действительности.