Стартап. Стэнфорд, весна 2012 г.
Шрифт:
Итак, давайте поговорим с доктором. Скоттом Брауном (D. Scott Brown) из Vicarious, Эриком Джонасом (Eric Jonas) из Prior Knowledge и Бобом МакГрю (Bob McGrew) из Palantir.
V. Перспективы
Питер Тиль: Очевидные вопрос к Vicarious и Prior Knowledge: почему сильный ИИ нужно делать именно сейчас, а не лет через 10-15?
Эрик Джонас: Традиционно мы не испытывали реальной потребности
Скотт Браун: Если продолжатся современные тренды, в течение 14 лет самый быстрый суперкомпьютер мира сможет проделывать больше операций в секунду, чем все нейроны всех живущих людей вместе взятых. Что мы будем делать с этой мощью? На самом деле мы не знаем. Так что, возможно, нам стоит потратить ближайшие 13 лет на поиски тех алгоритмов, которые мы будем запускать. Суперкомпьютер размером с Луну сам по себе ничего не дает. Он не может быть интеллектуальным, если ничего не делает. Поэтому один из ответов на вопрос о тайминге в том, что мы просто видим, к чему все идет, и у нас есть время поработать над этим. Неизбежность вычислительных мощностей — это сильный драйвер. К тому же, очень немногие работают над сильным ИИ. Ученые по большей части — нет, потому что их мотивационная структура довольно странная. У них извращенная мотивация, которая побуждает их делать только постепенные улучшения. А большинство частных компаний не работают над ним, потому что хотят делать деньги сейчас. Не так уж много людей, которые хотят делать 10-летний “Манхэттэн проджект” по сильному ИИ, где единственная мотивация — это измеримые контрольные точки между сегодня и моментом, когда компьютеры смогут думать.
Питер Тиль: Почему вы считаете, что эмуляция работы мозга — это верный подход?
Скотт Браун: Уточняю: мы на самом деле не занимаемся эмуляцией. Если вы строите самолет, вы не преуспеете, если сделаете гадящую штуку с перьями. Вы скорее смотрите на принципы полета. Вы изучаете крылья, аэродинамику, подъемную силу и т.п., и строите что-то, что отражает эти принципы. Мы похожим образом смотрим на принципы работы человеческого мозга. Существуют иерархии, редко встречающиеся образы и т.п. — все, что представляет собой конструкции в пространстве поиска. И мы строим системы, которые инкорпорируют эти элементы.
Питер Тиль: Не пытаясь затеять драку, мы спросим Боба: почему дополненный интеллект — правильнее, чем сильный ИИ?
Боб МакГрю: Большинство успехов в ИИ не были штуками, успешно прошедшими тест Тьюринга. Они являли собой решения конкретных проблем. Самоуправляемый автомобиль, например, — это реальная круть. Но он не интеллектуален в целом. Другие успехи, в машинном переводе или в обработке изображений, например, включали возможность для человека вводить все более сложные модели мира и последующую их компьютерную оптимизацию. Другими словами, все большие успехи были получены из торговых выгод. Люди лучше компьютеров в чем-то, и наоборот.
Дополненный интеллект работает, потому что он фокусируется на концептуальном понимании. Если не существует модели для проблемы, вы должны разработать ее концепт. Компьютеры очень плохо с этим справляются. Построение ИИ, который просто ищет террористов, — это ужасная идея. Вам нужно было бы создать машину, которая думает как террорист. Нам до такого еще, вероятно, лет 20. Но компьютеры хороши в обработке данных и сопоставлении паттернов. А люди хороши в разработке
Питер Тиль: Что вы думаете о временном горизонте для сильного ИИ? Если мы в 5-7 годах от него — это одно. Но 15-20 лет — это уже совсем другое.
Эрик Джонас: Это коварный вопрос. Нахождение баланса между компанией и исследовательским мероприятием – это не всегда просто. Но наша цель — просто создать машины, которые могут находить в данных вещи, которые люди найти не могут. Это 5-летняя цель. Получится совместная выгода, если мы построим эти Байесовы системы так, что они смогут работать вместе. Ядро Линукс содержит 30 млн строк кода. Но люди могут создавать приложения для Андроид без копания в этих 30 млн строк. Так что мы фокусируемся на том, чтобы иметь уверенность, что то, что мы делаем сейчас, может быть использовано для решения больших проблем, с которыми люди будут работать через 15 лет.
Питер Тиль: ИИ существенно отличается от того, чем занимается большинство компаний Кремниевой долины, работающих в вебе или сфере мобильных приложений. Раз уж инженеры стремятся в эти стартапы, что вы делаете в смысле рекрутинга?
Скотт Браун: Мы спрашиваем людей о том, что для них важно. Многие люди хотят оставить след в истории. Они могут не знать, как лучше это сделать, но они хотят этого. Так что мы подчеркиваем, что сложно сделать что-то более важное, чем построение сильного ИИ. Потом, если они заинтересуются, мы спрашиваем их, каким они себе представляют сильный ИИ. Какой инкрементный тест нужно пройти чему-то, чтобы это что-то оказалось точкой на пути к ИИ? Они приносят несколько тестов. И мы сравниваем их стандарты с нашей дорожной картой, и тем, чего мы уже достигли. С этого момента становится ясно, что Vicarious — это то место, где вам нужно быть, если вы серьезно настроены насчет создания интеллектуальных машин.
Вопрос из аудитории: Даже если вы преуспеете, что произойдет после того как вы создадите ИИ? Какая у вас защита от конкуренции?
Скотт Браун: Частично это сам процесс. Братьям Райт помогла построить самолет не какая-то секретная формула, которую они вдруг вывели. Это была строгая приверженность аккуратным контролируемым экспериментам. Они начали с малого и построили воздушного змея. Вычислили его механику. Потом они перешли к бездвигательным глайдерам. И как только они поняли механизмы управления, они двинулись дальше. В итоге всего процесса у них была штука, которая могла летать. Так что ключ к успеху — это понимание того, почему каждый кусочек необходим на каждой стадии, и, в конце концов, как они друг с другом сходятся. Так как качество порождается процессом, скрытым за результатом, результат будет трудно воспроизвести повторно. Копирование воздушного змея братьев Райт или нашей системы видения не даст вам понимания, какие эксперименты нужно провести, чтобы превратить это в самолет или в мыслящий компьютер.
Питер Тиль: Давайте перейдем к вопросам конфиденциальности. Работают ли над этим другие? Если да, то много ли их, или если нет, как вы узнали об этом?
Эрик Джонас: Набор и класс алгоритмов, используемых нами, довольно точно очерчен, так что мы думаем, что у нас есть хорошее чувство конкурентного и технологического ландшафта. Существует что-то около 200 — ну, чтобы быть более консервативным, скажем, 2000 — людей, которые обладают навыками и энтузиазмом, достаточными для того, чтобы делать то, что мы делаем. Но решают ли они в точности те же проблемы, и теми же способами, что и мы? Это очень маловероятно.