Если бы кто-нибудь в 2020 году спросил у мира на улице, что такое искусственный интеллект, средний прохожий, скорее всего, вспомнил бы Терминатора. Что такие модели, как GPT-3, существуют уже сейчас и доступны через интернет за пятнадцать долларов в месяц, среднему человеку в голову не приходило.
Это изменится через два с половиной года.
А пока в Сан-Франциско проходили внутренние совещания в кафе и квартирах. Несколько человек обсуждали, что они хотели бы создать. У них была общая позиция, у них была общая команда, у них была общая профессиональная идентичность. Им оставалось только определиться с одним: уйти или остаться.
К началу 2021 года решение было принято.
Глава 11
Отступники
Мы исследовательская лаборатория ИИ-безопасности, занимающаяся пониманием систем, которые мы строим, для того чтобы строить более безопасные системы.
В декабре 2020 года Дарио и Даниэла Амодей официально подали в OpenAI заявления об уходе. От щедрых предложений остаться они отказались. В течение нескольких следующих недель за ними последовало больше десятка исследователей: Том Браун, ведущий автор статьи о GPT-3; Сэм МакКэндлиш, соавтор закона Каплана; сам Джаред Каплан; Крис Олах, известный своими работами по интерпретации нейронных сетей; Том Хенигэн, Бен Манн, Джек Кларк, Кэтрин Олссон и другие. Каждое имя в этом списке было хорошо известно специалистам.
Из десяти авторов статьи о законах масштабирования девять оказались в новой структуре. Из тридцати одного автора статьи о GPT-3 — почти треть. Если посчитать по бюджетной отдаче, OpenAI потеряла, наверное, две трети своего научного потенциала, накопленного за пять лет.
В Кремниевой долине такого крупного отколовшегося движения исследователей не было со времён классической истории Fairchild Semiconductor шестидесятых годов, когда восемь сотрудников Уильяма Шокли ушли и основали полупроводниковую промышленность Силиконовой долины. История Anthropic не настолько была мифологизирована к моменту своего рождения, но по структуре и по человеческим страстям она была удивительно похожа.
Дарио Амодеи, 2023
Даниэла Амодеи, Fortune MPW 2025
Дарио Амодей родился в 1983 году в Сан-Франциско, в семье итальянско-американского мастера по коже и американской библиотекарши. У него была младшая сестра, Даниэла, на четыре года младше его. Семья была интеллигентная, не богатая, с сильным акцентом на образовании. Дарио учился в местной школе, начал в Калифорнийском технологическом, перевёлся в Стэнфорд и получил там бакалавра физики, защитился в Принстоне по биофизике (изучая электрофизиологию нейронных цепей). После Принстона он попробовал академическую карьеру, потом перешёл в Baidu, потом в Google, и в начале 2016 года был приглашён Альтманом и Брокманом в OpenAI.
Даниэла Амодей пошла по другому пути. Она окончила Калифорнийский университет в Беркли по специальности «политические науки», работала в гуманитарных организациях, потом в Stripe (где познакомилась с Брокманом), и в 2018 году пришла в OpenAI как руководитель операционного направления. Брат и сестра редко работают в одной структуре в Кремниевой долине; для Амодеев это было естественно. Они были близкие друзья с детства и всегда дополняли друг друга: Дарио — учёный с социальной чуткостью, Даниэла — менеджер с глубоким техническим пониманием.
Когда летом 2020 года они начали обсуждать возможность ухода, они с самого начала исходили из того, что уходить будут вместе. Не как два отдельных человека, а как одна команда: один возьмёт на себя науку и публичность, другая — операционное управление. Из этого естественного союза постепенно стала вырастать структура того, что в начале 2021 года будет официально зарегистрировано как Anthropic.
Тонкие причины ухода Амодеев и их команды из OpenAI обсуждаются до сих пор. По одним публичным заявлениям самих ушедших, главным разногласием была скорость. По их мнению, OpenAI разрабатывала всё более мощные модели быстрее, чем успевала разбираться, как ими безопасно пользоваться. Дарио в разных интервью говорил, что хочет создать лабораторию, в которой исследования безопасности будут не дополнительной программой, а центральной частью научной работы.
По другим, чуть более частным источникам, разногласия были глубже. Часть команды считала, что переход OpenAI к коммерческой структуре в 2019 году постепенно подменяет миссию: что лаборатория, начинавшаяся как противовес большим корпорациям, превращается в одну из них. Что партнёрство с Microsoft, при всех его финансовых преимуществах, означает зависимость от приоритетов Microsoft, которые в долгосрочной перспективе могут расходиться с целями безопасности.