Кризис в OpenAI: история о сгоревшем Прометее
Пытаемся распутать паутину нейросетевых интриг.
Бахнуло в пятницу вечером. Сооснователь и главное лицо OpenAI Сэм Альтман решением совета директоров был публично отстранён от должности в связи с тем, «что он не всегда был откровенен в своих коммуникациях с советом». Также под раздачу попал близкий друг Сэма и «отец» GPT-4 Грег Брокман, однако, в отличие от Альтмана, ему разрешили остаться в компании.
И не успели в интернете провести все аналогии с историей Стива Джобса и настроить теорий заговора про секретно запертый в подвалах компании настоящий ИИ, как всё завертелось с такими скоростью и масштабом, что разгребать последствия вся индустрия будет ещё долго.
Что случилось?
Чтобы понять, что произошло на самом деле, нам потребуется краткий экскурс в организационную структуру компании. В этом нам поможет GPT-4:
OpenAI была основана в декабре 2015 года группой предпринимателей и исследователей, включая Илона Маска и Сэма Альтмана. Целью создания компании было продвижение и развитие дружественного искусственного интеллекта (ИИ) в интересах всего человечества. В начале своего существования OpenAI функционировала как некоммерческая исследовательская организация.
В 2019 году OpenAI перешла на гибридную модель, создав свою коммерческую дочернюю компанию, OpenAI LP. Этот шаг был сделан для привлечения капитала, необходимого для финансирования дорогостоящих исследований в области ИИ. Сэм Альтман стал генеральным директором организации (а Илон Маск ушел из совета директоров в связи с возможным конфликтом интересов — прим. автора).
Глобально мы имеем: изначально некоммерческую OpenAl с руководством в виде совета директоров, которые не имеют капитала в компании и должны следить за миром между роботами и кожаными мешками человеками, и её структурное подразделение с генеральным директором во главе, которое должно зарабатывать бабки, потому что одними пожертвованиями сыт не будешь. Вся власть при этом сосредоточена у совета директоров.
Если совсем упрощать, то при переходе к рыночной модели изначально в самой структуре был заложен стоп-кран на случай, если что-то пойдёт не так, и мудрые дяди в правлении решат, что коммерсанты заигрались. И вот, кажется, что-то случилось, и этот стоп-кран дёрнули.
Что конкретно произошло, пока никто не знает, да и по многим признакам это был целый ворох накопившихся в компании противоречий по поводу того, как правильно подходить к вопросу о разработке ИИ. И вряд ли в ближайшее время всё грязное бельё вытащат наружу, поэтому нас явно ждёт ряд конспирологических теорий, некоторые из которых вполне могут оказаться правдой. В контексте ситуации это даже не так важно, важно другое.
Та самая OpenAl, которую вы все знаете, та компания, без упоминания которой не обходится ни одна новость про нейросети в 2023 году, компания, создавшая Chat-GPT и GPT-4, компания, в которую самосвалами отгружает деньги Microsoft, — это как раз то самое структурное подразделение. Эта OpenAl создала привлекательный инвестиционный бренд, и её лицо — Сэм Альтман.
И эта же OpenAl находится в центре международных скандалов в связи с утечкой пользовательских данных, эту OpenAl обвиняют в безответственном отношении к обучению нейросетей, и эта компания в 2023 году символизирует все страхи общества, с которыми должно было бороться её руководство. И они увольняют Альтмана, который ещё неделю назад обещал инвесторам светлое будущее и очередной нейросетевой прорыв в следующем году.
Что было дальше?
Естественно, на следующий день разъярённая толпа требует возмездия, инвесторы угрожают отогнать самосвалы с деньгами в успешный стартап по соседству, и всё не идет по плану, а летит в … И уже в воскресенье довольный Сэм постит в Х селфи с гостевым бейджем OpenAl, недвусмысленно намекая на переговоры и на своё скорое возвращение в родной кабинет.
Но договориться так и не получилось.
Альтману, Брокману, инвесторам и бунтующему штату компании противостоит костяк того самого совета директоров: главный учёный OpenAI Илья Суцкевер, директор Центра безопасности и новых технологий Джорджтаунского университета Хелен Тонер, ученый-робототехник и предприниматель Таша Макколи, а также основатель сервиса Quora Адам Д’Анджело.
Утром в понедельник они объявили о назначении Эмметта Шира (в народе известен как человек, задушивший ограничениями Twitch) на должность временного генерального директора OpenAI, что поставило не очень жирную, но всё-таки точку в вопросе о кадрах.
Здесь надо остановиться и сказать пару слов об Илье Суцкевере, поскольку именно его СМИ сейчас называют амбассадором идеи увольнения Альтмана. Прежде всего Илья – один из ведущих мировых специалистов в области ИИ, который стоял у истоков программы AlphaGo, впервые в истории победившей человека в го (китайская стратегическая настольная игра), а также сыграл ключевую роль в разработке GPT-генеративных моделей. Илон Маск, переманивший Суцкевера из Google, однажды сказал, что это стало основой успеха OpenAI.
Суцкевер – не публичный человек, но из тех немногих интервью, которые он успел дать мы достоверно знаем, что он последовательно выступает за ограничение и осознанное замедление в разработке ИИ, поскольку видит в этом угрозу человечеству.
Илья был источником приземления: он был четким техническим экспертом с широкими знаниями и видением.
Бывший президент OpenAI
Бывшего гендира и ушедшего вслед за ним Грега Брокмана моментально взяла под крыло Microsoft, объявив о создании своего подразделения по развитию нейросетей. Чуть позже компания также подтвердила готовность принять у себя всех беженцев из OpenAl, где к концу дня разразился настоящий бунт сотрудников, которые требуют отставки совета директоров и возвращения Альтмана на должность.
И всё это за одни сутки.
Что будет дальше?
Что мы имеем к утру вторника? В OpenAl открытая гражданская война между отцами-основателями, которые видят в своей же компании угрозу и назначают на должность нового генерального директора-эксперта по ограничивающим алгоритмам, и персоналом, который создал, без преувеличения, самые продвинутые и популярные нейросети XXI века и требует вернуть своего мессию, единственная цель которого — движение вперёд, несмотря ни на что.
Организация, созданная когда-то для защиты от монополизации искусственного интеллекта и устойчивого развития в области нейросетей, в погоне за прибылью породила в своих недрах то, с чем должна была бороться по определению. А дёрнув предохранитель, рискует быть уничтоженной до основания: уроборос замкнулся.
В соцсетях тем временем набирает популярность хештег в поддержку Альтмана: «OpenAI — ничто без своих людей», и удивительно, насколько другими красками начинает играть этот лозунг, если копнуть немного вглубь конфликта.
Важно понимать, что какое бы решение не было принято дальше, это будет означать смерть OpenAI. Организация либо предаст свои идеалы и перейдет на тёмную сторону под руководством Альтмана и Брокмана, либо откатится к самым истокам, потеряв 90% всего персонала и инвестиционную привлекательность.
Акции Microsoft растут, Илон Маск наблюдает. Мы тоже.