Илон Маск, основатель компании-производителя электромобилей Tesla, и Сэм Альтман, президент известного инкубатора Y Combinator, объявили о создании компании по разработке искусственного интеллекта на конференции в Монреале ещё в декабре прошлого года.  Это перевод статьи издания Wired, с оригиналом публикации можно ознакомиться здесь.

Эта новость вышла в пятницу во второй половине дня, когда обычно публикуется всякая всячина. Неужели это событие не достойно большего внимания и за ним никто не следил? Ещё как следили. Как только компании из Силиконовой долины почуяли, куда дует ветер, то сразу начали охоту за кадрами из новообразованной организации, заманивая баснословными зарплатами. Причем некоторые предложения поступали прямо во время конференции, суммы были настолько крупными, что Маск и Альтман решили отложить анонс своего нового стартапа. «Это были огромные суммы», заявил Войцех Заремба, который стажировался в Google и Facebook, а позднее присоединился к OpenAI. Он попал в число тех, кто получил интересное предложение от конкурентов в одиннадцатом часу.

«Огромная сумма» — это сколько в долларах? Два года назад, когда рынок технологий машинного обучения набирал обороты, вице-президент Microsoft Research Питер Ли сказал, что зарплата лучшего специалиста в области искусственного интеллекта превышает зарплату лучшего квотербека Национальной Футбольной Лиги. Для статистики, топовые квотербеки получают порядка $20-25 млн в год.

И это в обычных условиях, а не в той ситуации, когда двое самых известных предпринимателей Силиконовой долины хотят заполучить лучших. Заремба сказал, что ему предлагали зарплату в 2 или в 3 раза выше рыночной. Таких возможностей у OpenAI не было, зато там предлагали другое. Направить исследования исключительно на изучение будущего, а не работать для получения ежеквартальной прибыли. А потом поделиться этими исследованиями со всеми, кто бы этого захотел.

Именно так: цель Маска, Альтмана и компании — раздать людям бесплатно самую невероятную технологию XXI века.

Заремба сказал, что такие предложения заоблачных сумм скорее оттолкнули его от предложений, несмотря на его огромное уважение к таким компаниям как Google и Facebook. Он почувствовал, что его хотят перекупить, не давая создать OpenAI, от этого идея благородного стартапа увлекла его ещё сильнее.

В этом скрывается ирония всей истории. Несмотря на то, что самые большие в мире технологические компании пытаются удержать своих исследователей с той же силой, с какой Национальная Футбольная Лига пытается сохранить своих звезд-квотербеков, ученые, напротив, хотят делиться знаниями.

В утонченном мире исследований в области искусственного интеллекта самые яркие умы отнюдь не мотивированы исключительно выпуском конечного продукта или материальной выгодой. Они хотят сделать искусственный интеллект лучше, а этого не произойдет, если вы сохраняете свои открытия только для себя.

OpenAI выпустило свой первый софт в этой области, средство для создания систем искусственного интеллекта через технологию «усиленное обучение». Это одна из ключевых технологий, благодаря которой появился AlphaGo, искусственный интеллект от Google, тот, что поразил мир освоением правил старинной игры Го. С этим набором инструментов вы можете создавать системы, которые имитируют роботов новых типов, играют в игры Atari, ну и конечно им по силам игра Го.

нигири-в-игре-го

Впрочем, игры — это только начало. OpenAI это попытка ценой в миллиард долларов, которая хочет завести изучение искусственного интеллекта как можно дальше. В том, как собирались компании, в том, что они планируют делать, можно увидеть создание новой волны инноваций. Мы не скоро узнаем, сможет ли OpenAI стать главным участником этих изменений. Однако силы, которые ведут к созданию такого необычного стартапа, показывают, что новый вид искусственного интеллекта не только изменит технологию, но и поменяет способ создания технологий.

Везде искусственный интеллект

Преувеличение — обычное явление для Силиконовой долины, где принято встречать громкие заявления с долей скепсиса. Но в области искусственного интеллекта изменения действительно есть. В Google и Facebook так называемая технология «глубинного обучения» помогает определять лица на фотографиях, распознавать голосовые команды для смартфонов и отвечать на поисковые запросы. И эта же технология сможет решать множество задач в будущем. Она поможет системам распознавать языки — привычный способ человеческого общения. Она создаст новый вид роботов, позволяя технике не только выполнять задания, но и самообучаться во время этого процесса. А кто-то даже верит в то, что благодаря ей у роботов появятся разум — возможность мыслить как человек.

что-с-нами-не-так-4

Но вместе с этими обещаниями приходит волнение. Маск и Альтман беспокоятся о том, что если люди создадут искусственный интеллект, способный творить великие вещи, они смогут создать и его аналог, способный устроить кошмарную жизнь всему человечеству. Такого мнения придерживаются не они одни, но как ни странно, Маск и Альтман считают, что лучший способ борьбы со злобным разумом — открыть к нему доступ, а не ограничивать его. И это одна из причин, по которой в проект пришли молодые и очень умные идеалисты.

Проект OpenAI запустили летом прошлого года, когда Илон Маск ужинал вместе с Ильей Суцкевером, который в то время работал в Google Brain, занимаясь разработкой нейронной сети. То есть системы искусственного интеллекта, которая учится выполнять задачи, исследуя огромные массивы данных, начиная с распознавания лиц на фотографиях и заканчивая сочинением электронной почты или диалогом. Суцкевер был одним из идеологов проекта, но потом пришло время более крутых идей.

Сэм Альтман, чей Y Combinator помогал развиваться таким компаниям, как Airbnb, Dropbox и Coinbase, устроил встречу, на которой присутствовало несколько специалистов в области искусственного интеллекта, а также молодой, но опытный Грег Брокман, бывший директор по технологиям в стартапе по платежам Stripe, одной из компаний Y Combinator. Это была очень энергичная команда, и у всех была одна цель: создать новую лабораторию по исследованию искусственного интеллекта, которая бы существовала сама по себе и была независимой не только от Google, но и всех остальных.

Маск принимал участие в качестве старинного друга Альтмана, ну и конечно потому, что искусственный интеллект очень важен для его бизнеса и будущего человечества в целом. Он необходим для автономных автомобилей Tesla, Space X с его помощью будет отправлять людей в космос и отвечать за их жизнеобеспечение.

Кроме того, Маск один из тех, кто предупреждает человечество о том, что однажды люди могут потерять контроль над слишком умными системами.

Но была и проблема. Слишком много толковых специалистов, которым по силам эти проблемы, уже работали на крупные корпорации: Google, Facebook, Microsoft, Baidu, Twitter и прочие. И никто из присутствующих в тот вечер за столом не был уверен в том, что смогут привлечь этих людей в новый стартап, даже если перед ними будут сидеть Маск и Альтман. Но один из ключевых игроков был готов сменить корабль. «Я видел в этом определенные риски, но также я понимал, что это будет очень интересно попробовать», сказал Суцкевер.

Разрывая круг

Вскоре Брокман решил создать лабораторию после ободряющего диалога с Маском, Альтманом и другими. Он плотно занялся проектом, посвящая ему все свое свободное время, и начал приглашать специалистов. Он общался с Йошуа Бенджио, специалистом по теории вычислительных машин и систем Университета Монреаля, одним из основателей глубинного обучения. Двое другие исследователей этой сферы — Джефф Хинтон и Ян ЛеКун — теперь работают в Google и Facebook. Бенджио посвятил свою жизнь науке, которая далека от производства. Он помог составить список лучших ученых в этой области, так что несколько следующих недель Брокман при помощи нескольких человек старался найти всех, кого только смог.

Многие одобрили их идею, но они опасались выйти за привычные рамки. Брокман решил сломать стереотипы и пригласил десяток наиболее интересных ему в проекте персон на ужин, который провел на винодельне в долине Напа. Даже сама поездка туда способствовала развитию проекта. “Людям нужно добраться туда, они собираются вместе и общаются между собой по пути. Это был один из тех дней, когда победила химия”, вспоминает Брокман.

napavalley01

В конце дня Брокман пригласил всех 10 специалистов присоединиться к проекту и дал им три недели на размышления. И 9 из 10 человек к моменту окончания срока вошли в проект и остались в нем, несмотря на внушительные предложения со стороны гигантов Силиконовой долины.

«Они сделали все для того, чтобы я остался, это было непростым решением для меня», рассказывает Суцкевер о своем бывшем работодателе Google. «В итоге я решил присоединиться к OpenAI, частично это связано с очень мощной командой, ну а главную роль сыграла цель этого проекта».

Исследования в области глубинного обучения начались в ученых кругах. И только в последнее время гиганты вроде Google, Facebook и Microsoft начали работы в этой области, после того как появились очень мощные компьютеры, сделавшие нейронные сети реальностью. Такие ученые как Хинтон и ЛеКун покинули ученые круги в пользу Google и Facebook благодаря огромным ресурсам, которыми обладают эти компании. Но они продолжают общаться и обмениваться данными с другими учеными. Более того, как объясняет ЛеКун, для таких исследований нужен обмен идеями. Он объясняет это тем, что когда работы проходят в тайне, то отставание неизбежно.

В итоге крупные компании делятся результатами своих исследований в области искусственного интеллекта. Это серьёзные изменения, особенно для Google, которая долго время скрывала все секреты в области технологий в самом сердце онлайн-империи. Недавно Google открыла доступ к своему софту, который управляет нейронными сетями. Но она все равно остаётся на финишной прямой в гонке к будущему. Брокман, Альтман и Маск хотят отстаивать идею того, что важна открытость в таких исследованиях. Они отмечают, что не хотят видеть одну или две корпорации, которые контролируют все будущее искусственного интеллекта.

Границы откровенности

Все это хорошо звучит на словах. Но не смотря на идеализм OpenAI исследователи могут пойти на те же компромиссы, что и на своих предыдущих работах. У откровенности есть свои пределы. Найти долгосрочную перспективу искусственного интеллекта — отнюдь не единственная цель, ведь это не благотворительность. Компании Маска могли оказать стартапу огромную помощь, как и компании, которые поддерживал Y Combinator Альтмана. Как сказал ЛеКун, это некоммерческий проект, но он очень плотно связан с Y Combinator. И тем, кто там работает, платят столько же, как и занятым в работе индустрии.

По словам Брокмана астрономических зарплат как в Facebook или Google в лаборатории не платят. Но он говорит, что там хотят платить достойно и предлагают компенсацию в виде пакета акций Y Combinator, а в будущем и Space X (которая в отличие от Tesla пока что является частной компанией).

Однако Брокман настаивает на том, что OpenAI не будет создавать особые условия для сестринских компаний. В приоритете исследовательская деятельность, а не консалтинг, хотя он и признает, что идеалы OpenAI имеют пределы. Компания, может быть, и не поделиться абсолютно всем, что узнает, но, тем не менее, планирует обмениваться открытиями в научных статьях или через интернет-сервисы.

ycombinator

Проводить все исследования в открытую — не лучший способ ведения дел. Вы хотите обдумать идею, увидеть к чему она ведет, а потом уже опубликовать это», говорит Брокман. Мы будем поддерживать open source разработки. Но кроме того, у нас остаются и те данные, которыми мы пока не готовы делиться.

И Суцкевер, и Брокман также добавили, что OpenAI может зайти так далеко, что запатентует свои работы. «Мы не планируем ничего патентовать в ближайшее время, но мы готовы изменить нашу позицию в долгосрочном периоде, если увидим, что это будет лучше для всего мира», сообщил Брокман. Например, как он заявил, OpenAI может получить патент в соответствии с преимущественным правом. Это поможет защитить свои разработки от получения на них патентов другими компаниями.

По мнению некоторых, получение патента означает получение прибыли в будущем, ну или по крайней мере отсутствие желания быть полностью открытыми, о чем так говорят основатели OpenAI. «Это основы патентной системы, поэтому я задумываюсь, чего же они хотят на самом деле», говорит Орен Этциони, исполнительный директор Института искусственного интеллекта им. Аллена.

Проблемы сверхразума

Когда Маск и Альтман объявили о создании OpenAI, они заодно представили видение того, как обезопасить себя от угрозы враждебного искусственного сверхразума. Конечно, он может появиться из технологий того же OpenAI. Но они настаивают на том, что люди смогут справиться с любой угрозой — ведь про технологию будут знать все.

Но на это повелись не все. Ник Бостром, философ из Оксфорда, который как и Маск, предупреждает об опасности искусственного интеллекта. Он отмечает, что если делиться результатами исследований без ограничений, ими могут воспользоваться с недобрыми намерениями ещё до того, как выяснится, что они безопасны. Он объясняет это так: «Если у вас есть кнопка, которая может навредить всему миру, то не надо давать допуск к ней каждому». С другой стороны, если OpenAI будет хранить в тайне свои исследования, то чем это отличается от Google или Facebook?

maxresdefault

Ник Бостром считает, что некоммерческий статус OpenAI может изменить сложившиеся вещи, пусть это и необязательно. Настоящая сила проекта в том, что он сможет проверить Google и Facebook. OpenAI снижает вероятность того, что сверхразум может быть монополизирован, можно убрать одну из причин, по которой у некоей группы будет лучший искусственный интеллект по сравнению с остальными.

Философ полагает, что главный эффект от деятельности OpenAI состоит в том, заметно ускоряется развитие искусственного интеллекта, по крайней мере, в краткосрочной перспективе. Также это может ускорить его и в долгосрочной перспективе, если там будут поддерживать высокий уровень открытости.

В духе исследовательской лаборатории

В начале январе девять из ученых команды Брокмана встретились у него дома в Сан-Франциско. Проект только стартовал, так что у них даже не было доски для записей. В тот же день они закупили все необходимое и принялись за работу.

По словам Брокмана, OpenAI начнет исследования путем проб и ошибок, когда машины учатся выполнять задания, повторяя их снова и снова, пытаясь получить лучшие результаты. Но есть и другая не менее важная цель — неконтролируемое обучение, когда машины учатся сами без участия человека.

Сегодня изучение строится на тщательно отобранных данных. Когда хочешь научить нейронную сеть распознавать фотографии котиков, нужны примеры с котиками, причем их нужно пометить, что там именно котики, а не что-то другое. Для такого обучения нужны люди, которые помечают картинки. Но цель OpenAI — научиться без таких помеченных данных. Брокман верит, что системы все найдут в интернете, этим они будут похожи на людей, которые раньше черпали информацию из книг, а теперь берут ее в Сети.

В OpenAI он видит современную Xerox PARC — успешную исследовательскую лабораторию из 70-х гг. Благодаря ее изысканиям мы получили графические интерфейсы у принтеров и объектно-ориентированное программирование, хотя в те годы это считалось фантастикой. Несмотря на то, что компания Xerox владела PARC, проект получал помощь из других организаций, в частности, Apple.

500004656-03-01

В этом месяце, надеясь ускорить процесс, Брокман привлек к работе над проектом еще несколько специалистов, включая Иэна Гудфеллоу, бывшего старшего исследователя из команды Google Brain. У PARC была особенность — там собрали умных людей вместе и разрешили им делать то, что они хотят. Нужна одна идея, но без жесткого управления.

Отказ от управления — смысл жизни open-source проектов. Если достаточное количество людей как следует постарается ради общей цели, конечный результат превзойдет все то, что пытались сохранить в секрете. Но если искусственный интеллект станет таким мощным, как это прогнозируют, то изменения в этом уравнении неизбежны. Нам нужно убедиться в том, что новые искусственные интеллекты будут в первую очередь верить в те же идеалы, что и создали их самих. Маск, Альтман и Брокман верят в мудрость народа. Но если они правы, однажды эта толпа будет состоять не только из людей.

Если вы нашли ошибку, пожалуйста, отправьте автору подзатыльник! Выделите фрагмент текста и нажмите Ctrl+Enter.


  • Влад Грицко

    Это крч, удачи OpenAl))

Сообщить об опечатке

Текст, который будет отправлен нашим редакторам: