Юрий СоколовЭто одно из последних интервью Сэма Альтмана, где он достаточно подробно рассказывает про основание Open AI, даёт оценку качеству моделей искусственного интеллекта, размышляет о рекламной монетизации бизнеса, и конечно обсуждает недостатки и регулирование искусственного интеллекта
Несколько важных тезисов перед тем, как вы приступите к чтению:
- Это не совсем классические интервью в формате вопрос-ответ. Вопросы Сэму Альтману задает в своём аудиоподкасте Бен Томпсон, и это скорее беседа двух интересных людей, чем классическое журналистское интервью.
- Ранее он работал в Apple, Microsoft, Automattic, а сейчас занимается проектом Stratechery — анализ стратегии технологический компаний, СМИ, а также влиянием технологий на общество. Вопросы от Бена Томпсона в тексте выделены жирным шрифтом.
- Так как интервью было в аудиоформате, текст я старался местами упростить (без потери смысла) и адаптировать под российского читателя.
- В интервью есть некоторое количество сложных терминов, я вынес их в отдельные блоки и выделил цветом.
Путь к OpenAI
Сэм Альтман, добро пожаловать на Stratechery.
Где вы выросли? Как начали заниматься технологиями? Расскажите мне историю происхождения Сэма Альтмана.
СА: Я вырос в Сент-Луисе. Родился в Чикаго, но по-настоящему вырос в Сент-Луисе. Жил в тихом пригороде, на красивых старых улицах, обсаженных деревьями. Я был компьютерным гиком: в моей школе были компьютеры, и я считал их потрясающими, и я проводил за ними столько времени, сколько мог. Это были славные дни, когда ты мог сразу делать на компьютере всё, что хотел, и было очень легко научиться программировать, это было безумно весело и увлекательно. В конце концов, мои родители купили нам домой компьютер. Я всегда был настоящим гиком во всех смыслах — наука, математика, компьютеры, научная фантастика и всё такое.
Далее вы поступили в Стэнфорд и в 19 лет основали Loopt, а семь лет спустя он был продан.
В оригинальном интервью был использовано не слово «продан», а термин Acqui-hiring. Это процесс, когда сильный игрок покупает команду не столько за её финансовые показатели или доли рынка, а ради персонала. Это такой метод супербыстрой покупки талантливой команды.
Я думаю, справедливо охарактеризовать это как неудачный стартап — семь лет — это хороший срок, но это всё-таки acqui-hiring. Как это привело к работе в Y Combinator и вскоре к руководству там?
СА: Мы были одной из первых компаний, получивших финансирование от Y Combinator в первом наборе, и я был безмерно благодарен и считал это классной штукой, это было замечательное сообщество людей. И я до сих пор думаю, что влияние, которое YC оказал на технологическую индустрию, недооценено, хотя люди считают, что оно было огромным. Так что это было очень важно для меня, для отрасли, и я хотел помочь этому начинанию. Поэтому, пока я занимался тем стартапом, я просто часто бывал в YC.
В каком-то смысле это были семь лет подготовки к работе в YC. Вы, возможно, не осознавали это в то время?
СА: В каком-то смысле. Не намеренно, но многие мои друзья были в YC, наш офис находился совсем рядом с офисом YC, так что я часто бывал там и много времени проводил в разговорах с Полом Грэмом и Джессикой Ливингстон, а когда нашу компанию приобрели, Пол сказал: «Может, тебе стоит поработать в YC?».
Loopt был основан в 2005 году, и Y Combinator, как стартап-инкубатор тоже был основан в 2005. Loopt был одной из первых инвестиций YC, и понятно, что Сэм Альтман видел, как развивается инкубатор с самого его основания.
Сначала я действительно не хотел, потому что не хотел быть инвестором — очевидно, я был недоволен тем, как пошёл стартап, и хотел создать хорошую компанию, и не считал себя инвестором. Я немного инвестировал, но это не казалось мне тем, чем я хотел бы заниматься, я был счастлив делать это как бы на полставки. Это было интересно, но я не хочу говорить, что не уважал инвесторов, просто не уважал себя как инвестора.
Был ли момент, когда Пол Грэм стал одновременно инвестором и основателем, потому что основал YC. А вы возглавили YC, это была очень крутая позиция, но вы сами не были основателем?
СА: Меня не очень заботило, чтобы быть основателем, я просто хотел какую-нибудь операционную работу, и то, что он сказал мне, что в конце концов оказалось довольно убедительным: «Знаешь, если ты руководишь YC, это ближе к управлению компанией, чем к тому, чтобы быть инвестором», и это оказалось правдой.
Я хочу прояснить этот момент. Думаю, вы начали руководить YC в 2014 году, а примерно тогда или в 2015 году у вас был этот знаменитый ужин с Илоном Маском в отеле Rosewood, где вы говорили об ИИ. Что привело к этому ужину? Что было в воздухе? Это просто всплыло в разговоре или было целью?
СА: Да, это был очень конкретный ужин об ИИ. Так бывает, когда какой-то один из многих ужинов позже превращается в легенду. В том году было много ужинов, особенно тем летом, включая многие с Илоном. Но на этом ужине присутствовало много людей, и по какой-то причине эта история получила широкое распространение. Но да, целью было именно поговорить об ИИ.
За прошедшие годы к OpenAI приписывали множество мотивов. Безопасность, благо человечества, некоммерческая деятельность, открытость и так далее. Очевидно, позиция OpenAI по некоторым из этих тем изменилась. Однако, когда я оглядываюсь назад на эту историю, и она, как мне кажется, дополнилась за первые несколько минут этого разговора. Я вижу невероятно амбициозного молодого человека, который решил создать революционную технологию, даже ценой одного из самых желанных мест в Силиконовой долине. В конце концов, это было всего через год после того, как вы возглавили Y Combinator. Какова была ваша личная мотивация для создания OpenAI?
СА: Я верил до этого, верил тогда и верю сейчас, что если мы сможем понять, как создать AGI, и если мы сможем сделать так, чтобы он стал позитивной силой в мире, это будет одним из самых захватывающих, интересных, эффективных и позитивных проектов, которые кто-либо мог когда-либо сделать.
AGI (Artificial general intelligence) — это искусственный интеллект общего или базового уровня. Даже можно сказать, что это область исследований, которая ставит своей задачей создать продукты и сервисы с интеллектом подобным человеку, и способностью самообучаться.
Чувствовали ли вы сразу напряжение: «О, я просто собираюсь заниматься этим попутно?», или в какой момент OpenAI стала главным делом, а YC отошла на второй план?
СА: Одна из вещей, которые меня воодушевляли в YC, заключалась в том, что YC была настолько мощной на тот момент, что мы могли использовать её для того, чтобы подтолкнуть многих людей к созданию серьёзных технологических компаний. И мы могли использовать её для стимулирования исследований. Меня это всегда очень интересовало. Это было первое, что я попытался сделать в YC: «Мы собираемся начать финансировать традиционные технологические компании и также постараемся помочь начать другие технологические проекты». Мы начали финансировать сверхзвуковые самолёты, термоядерный синтез, компании по синтетической биологии и многое другое. Я действительно хотел найти возможности для финансирования проектов по созданию AGI.
На самом деле тогда был один или два таких стартапа, и мы с ними поговорили, а потом появилась DeepMind. Я всегда интересовался ИИ, работал в лаборатории ИИ, когда был студентом, и тогда ничего не работало, но я всегда считал это самым крутым делом. И хотя структура и планы OpenAI были неоднозначными, общая миссия — мы хотим создать полезный AGI, который будет широко распространён — оставалась полностью последовательной, и я до сих пор считаю её невероятно важной.
Поэтому казалось, что YC должна поддержать это начинание. Мы думали о том, чтобы финансировать больше исследовательских проектов. Одна вещь, о которой, как мне кажется, все забыли, — это то, насколько OpenAI начиналась как исследовательская лаборатория без какой-либо идеи, даже наброска идеи.
Трансформеры тогда даже не существовали.
Под трансформерами здесь подразумевается GPT — Generative Pre-trained Transformer. Это модель искусственного интеллекта, которая умеет генерировать текст на основе того, что ей дали на вход. Проще говоря, это программа, которая «обучилась» на большом количестве текстовых данных и может писать тексты, похожие на человеческие, например, отвечать на вопросы, продолжать истории или создавать новые тексты по заданной теме.
СА: Их не существовало. Мы создавали системы, подобные RL-агентам [обучение с подкреплением], чтобы играть в видеоигры.
Верно, я хотел упомянуть про видеоигры. Именно это было вашим первым релизом.
СА: У нас не было бизнес-модели или идеи, и на тот момент мы даже не понимали, насколько дорогими должны были стать компьютеры. Мы думали, что можем быть просто исследовательской лабораторией. Но в те ранние годы мы чувствовали себя как академическая исследовательская лаборатория, потерянная в пустыне, пытающаяся понять, что делать, и просто решающая каждую проблему по мере её появления. Не только исследовательские проблемы, но и такие вопросы, как: «Какой должна быть наша структура?», «Как мы будем зарабатывать деньги?», «Сколько денег нам нужно?», «Как мы создадим вычислительные мощности?» Мы должны были сделать многое.
Это почти похоже на то, как будто вы бросили колледж, чтобы начать Loopt, а потом подумали: «Знаете что? Опыт общения в колледже довольно хорош, так что я останусь в YC», а потом OpenAI как будто: «Знаете что? Просто заниматься академическими исследованиями и открывать интересные вещи тоже довольно здорово». Как будто вы воссоздали колледж самостоятельно, потому что скучали по нему.
СА: Думаю, я наткнулся на нечто гораздо лучшее. Мне нравился колледж в то время, и я не из тех, кто против колледжа, возможно, сейчас я стал более радикальным в этом отношении. Но 20 лет назад всё было лучше. Это было больше похоже на: «О, сообщество YC — это именно то, что я всегда представлял как идеальное академическое сообщество». Поэтому, по крайней мере, мне не казалось, что я пытаюсь что-то воссоздать. Было ощущение: «О, я нашёл нечто лучшее».
В любом случае, с OpenAI я постепенно всё больше и больше погружался в это. Сначала это был один из шести исследовательских проектов YC и один из сотен компаний, над которыми я работал, а потом это просто захватило меня, и я был одержим.
Возможно, самым важным годом для OpenAI был 2019 год? Вы выпустили GPT-2. Вы не сделали модель с открытым исходным кодом сразу и создали коммерческую структуру, привлекли деньги от Microsoft. Оба этих шага в некотором смысле нарушали первоначальное видение OpenAI. Или это нужно было сделать для достижения цели. Справедливо ли такое утверждение?
СА: Во-первых, я думаю, они довольно разные. Что касается выпуска GPT-2, некоторые люди были очень обеспокоены, знаете ли, вероятно, модель была полностью безопасной, но мы не знали, что хотим получить. У нас действительно было что-то новое и мощное, и мы хотели, чтобы общество пошло с нами.
Я хочу затронуть вопрос о некоммерческой организации. История, о которой вы говорите, — миф. Говорят, что альтруистические причины, которые вы выдвинули, на самом деле были способом конкурировать с Google в области найма сотрудников. Это так?
СА: Почему некоммерческая организация?
СА: Потому что мы думали, что будем исследовательской лабораторией. Мы буквально не представляли, что когда-либо станем компанией. План состоял в том, чтобы публиковать исследовательские работы. Но не было продукта, не было плана продукта, не было дохода, не было бизнес-модели, не было планов на эти вещи. Одна вещь, которая всегда помогала мне в жизни, — это просто пробираться в темноте, пока не найдёшь свет, и мы долго блуждали в темноте, а потом нашли то, что сработало.
Если бы можно было начать сначала, поступили бы вы иначе?
СА: Да. Если бы я знал всё, что знаю сейчас, конечно. Конечно, мы бы организовали всё иначе, но мы не знали тогда всего, что знаем сейчас, и я думаю, что цена присутствия на переднем крае инноваций — это совершать много глупых ошибок, потому что ты так глубоко в тумане войны.
История создания ChatGPT
Расскажите историю ChatGPT? Чья это была идея? Какими были первые дни и недели? В нашей прошлой встрече вы выразили мнение, что это было полной неожиданностью. Это всё ещё так?
СА: Это было неожиданно. Послушайте, очевидно, мы думали, что когда-нибудь продукты ИИ станут огромными. Мы запустили GPT-3 через API, и к тому моменту мы поняли, что нам нужно стать компанией и предлагать продукты. GPT-3 работал нормально. Не великолепно, но нормально. Он нашёл реальный продукт на рынке в одной категории. Сейчас это звучит смешно, но это было копирайтинг — единственное, где люди смогли построить реальный бизнес, используя API GPT-3.
Затем с 3.5 и 4 многие могли использовать его для разных целей, но это было в тёмные времена, и кроме разработчиков, никто больше этим не занимался. У нас была такая штука, как The Playground, где можно было тестировать модель, и разработчики пытались общаться с моделью, им было интересно. Они обсуждали с ней то, для чего собирались её использовать, и делали это примитивными способами. Мы подумали: «Ну, это интересно, может быть, мы могли бы сделать это намного лучше».
У нас были смутные планы на продукт в будущем, но мы знали, что хотим создать какой-то чат-бот. Мы давно думали о чат-боте, ещё до API, мы говорили о создании чат-бота, просто думали, что модель недостаточно хороша.
Был явный спрос от пользователей, мы также улучшали RLHF и думали, что сможем настроить модель лучше, и у нас была такая штука, о которой тогда никто не знал — GPT-4, и он был действительно хорош. В мире, где все привыкли к GPT-3 или, может быть, уже был 3.5 — я не помню. К тому времени, когда мы запустили ChatGPT, он был, но не 4 — мы думали: «Это будет действительно хорошо».
RLHF — Reinforcement Learning from Human Feedback. Это обучение ИИ-модели с подкреплением на основе отзывов людей.
Мы решили, что хотим создать этот чат-продукт, мы закончили обучение GPT-4, думаю, в августе того года, мы понимали, что у нас на руках чудо. Первоначальный план состоял в том, чтобы запустить ChatGPT с GPT-4, и поскольку мы все привыкли к GPT-4, мы уже не считали 3.5 очень хорошим, и был большой страх, что если мы запустим что-то с 3.5, то никто не обратит внимания, и люди не будут впечатлены.
Но были также некоторые люди, и я был одним из них, которые начали думать: «Если мы выпустим GPT-4 и интерфейс чата одновременно, это будет похоже на прохождение теста Тьюринга». Не буквально, но это будет так ощущаться, если люди ещё не видели такого. Давайте разделим это и запустим исследовательский превью интерфейса чата и модели с настройкой под чат с 3.5. Некоторые хотели это сделать, но большинство не хотело, большинство не думало, что это будет очень хорошо.
Тест Тьюринга — это способ проверить, может ли компьютер думать или общаться как человек. Представьте, что вы беседуете с кем-то по переписке, но не знаете, кто это — человек или программа. Если вы не можешь отличить, говорит ли с тобой человек или машина, значит, программа прошла тест Тьюринга. Этот тест предложил учёный Алан Тьюринг в 1950 году. Его цель — понять, может ли искусственный интеллект “думать”, то есть вести себя в разговоре так же, как человек.
В конце концов я просто сказал: «Давайте сделаем это», и тогда мы думали, что запустим GPT-4 в январе, поэтому решили: «Если мы собираемся это сделать, давайте выпустим это перед праздниками», чтобы кто-то этим занялся. Мы решили сделать это, думаю, вскоре после Дня благодарения.
Да, это был конец ноября. Не помню, до или после, но примерно тогда, да.
СА: Думаю, после, потому что я был в отпуске, и когда вернулся, они сказали: «Мы запускаем завтра и назовём это Chat with GPT 3.5». Я тогда ответил: «Ни за что». Мы очень быстро приняли спонтанное решение назвать его ChatGPT, и выпустили либо в тот день, либо на следующий. Многие думали, что всё провалится, я думал, я был уверен, что будет хорошо. И никто не думал, что это будет так хорошо, как получилось, и потом это стало просто сумасшедшей вещью. Я думаю, это потрясающе.
Сэкономило ли вам это с точки зрения масштабирования, что вы сделали 3.5, просто потому что обслуживать его было дешевле?
СА: Да, но, вероятно, не в том смысле, как вы думаете. Это сэкономило нас в плане масштабирования, потому что если бы у нас были только реальные системы и инженерная часть для поддержки, это было бы безумно. Уже был довольно вирусный момент, и если бы мы запустили ChatGPT с 4, это было бы мега-вирусным моментом.
Одна из самых сумасшедших вещей, которые я когда-либо видел в Силиконовой долине, это те шесть месяцев, когда мы прошли от практически никакой компании до большой компании. Нам пришлось выстраивать корпоративную инфраструктуру, набирать людей и организовывать всё необходимое для этого — это было безумное время. И тот факт, что спрос был немного ниже, потому что модель тогда была значительно хуже, чем четвёртая версия, оказался действительно важным.
Это не навредило вам в долгосрочной перспективе? Потому что некоторые люди попробовали тогда и больше не пересматривали свою точку зрения. Я имею в виду, если перемотать вперёд к DeepSeek, реакция была такая: «Вау, это гораздо лучше». А на деле — «Ну да, потому что вы не пользовались промежуточными моделями».
СА: Думаю, трудно сказать, что это сильно навредило нам — сейчас у нас всё довольно хорошо. Хотя ваш аргумент действительно хорош. Если подумать о том, насколько стыдной была та модель — она едва могла быть последовательной, — а теперь у нас есть вещи, которые заменяют Google. Для многих людей в интернете, пишут целые программы. Впечатляющий прогресс за два года и четыре месяца.
Первое интервью, которое я провёл с вами и Кевином Скоттом, было посвящено выпуску New Bing, что было всего через пару месяцев, я полагаю, когда впервые был запущен GPT-4.
СА: Именно.
New Bing. Имеется в виду запуск Bing на базе ИИ
Вы были очень воодушевлены. Во время разговора у вас были резкие слова для поискового гиганта, которому не следовало чувствовать себя счастливым. Осознавали ли вы тогда, что именно вы, а не Microsoft, в конечном итоге станете тем, кто нарушит работу поиска Google?
СА: Думаю, у меня была на это некоторая надежда, да.
В OpenAI было немало драматичных событий, мягко говоря, которые могли повлиять на ваши отношения с Microsoft, о котором, как я знаю, вы говорите только хорошее, поэтому я не буду настаивать на этом. Но есть ли ощущение, что когда вы вступали в партнёрство с ними в 2019 году, никто не представлял, что появится что-то вроде ChatGPT, что означало бы, что вы оба будете ориентированы на конечного пользователя, и, возможно, это неизбежно должно было стать реальной проблемой?
СА: Да, я имею в виду, что тогда никто не думал, что мы станем одной из гигантских b2c/b2c компаний. Это правда.
Да, я думаю, для меня это золотой ключ к пониманию многих вещей, связанных с OpenAI. Я помню, как тогда Нат Фридман, Дэниел Гросс и я начали эту серию интервью об ИИ в октябре 2022 года, за месяц до выхода ChatGPT. И наша основная мысль заключалась в том, что никто не знает об этой ИИ-штуке, людям нужно создавать продукты. А через месяц запускается продукт, люди жалуются на чат-боты. Но вы посмотрите на любого подростка, посмотрите, как люди взаимодействуют, они постоянно переписываются.
СА: Это было одним из моих наблюдений о том, почему я хотел это сделать. Это то, чем в основном занимаются молодые люди.
У вас была двойная проблема внутри компании. Люди переоценивали хорошую модель, недооценивали, насколько сильно даже плохая модель могла впечатлить пользователей, и при этом у вас было много бумеров, которые не любили переписку
СА: В OpenAI не так много бумеров.
Бумер в разговорном смысле, а не настоящий бумер.
СА: Да, я бы сказал, что я менее зрелый, чем средний сотрудник OpenAI.
Я должен спросить от имени моего соведущего по Sharp Tech, Эндрю Шарпа, насчёт написания строчными буквами — это потому что ИИ использует строчные буквы или это просто такая фишка?
СА: Нет, я просто интернет-ребёнок, я и до появления ИИ не использовал заглавные буквы.
Да, я последний год поколения X, могу посмеиваться над этими миллениалами, это просто ужасно.
Технологическая компания, ориентированная на потребителей
У меня есть несколько теорий, которые я хочу обсудить с вами по поводу ChatGPT. Никто не ожидал, что вы станете клиентской технологической компанией. Вы были исследовательской лабораторией. Окей, вы выпустили API и, возможно, заработали немного денег, но вы упомянули этот шестимесячный период масштабирования и возможностью, которая фактически была предоставлена вам.
В сфере технологий много говорят об оттоке сотрудников и некоторых известных именах, которые ушли, и тому подобном. Мне кажется, что никто из ваших сотрудников не подписывался работать в коммерческой компании. Если бы они хотели работать в Facebook, они могли бы работать в Facebook. Это также является другой основной напряжённостью: у тебя есть эта возможность — хочешь ты того или нет, — и это означает, что это место стало совсем другим по сравнению с тем, каким оно было изначально.
СА: Послушайте, я не имею права жаловаться, верно? У меня лучшая работа в сфере технологий, и было бы странно, если бы я начал жаловаться на то, что это не то, что я хотел, и как мне не повезло и всё такое. Но я хотел руководить исследовательской лабораторией по AGI и выяснить, как создать AGI. Я не думал, что подписываюсь на управление крупной потребительской интернет-компанией.
Я знал из своего предыдущего места работы, которое в то время тоже было, пожалуй, лучшей работой в сфере технологий на что иду. Так что, думаю, мне очень повезло дважды, я знал, сколько времени это отнимает в жизни и насколько сложно в некоторых отношениях управлять одной из этих гигантских компаний. Но я также знал, что делать, потому что я тренировал многих других людей и наблюдал за многими.
Когда мы выпустили ChatGPT, каждый день наблюдался всплеск пользователей, это ломало наши серверы. Затем наступала ночь, трафик падал, и все говорили: «Всё кончено, это был просто вирусный момент». На следующий день пик становился выше, серверы падали: «Всё кончено». На следующий день пик становился выше, и к пятому дню я подумал: «О боже, я знаю, что здесь произойдёт, я видел этот фильм много раз».
Но видели ли вы этот фильм много раз? Потому что вся суть игры заключается в привлечении клиентов, и для многих стартапов это главная задача. Фактические компании, которые решают проблему привлечения клиентов органически, вирусным путём, на самом деле очень редки. Я имею в виду, что компания, которая действительно предшествует OpenAI в этой категории, — это Facebook, который появился в середине 2000-х. Я думаю, вы переоцениваете, насколько вы могли это видеть раньше.
СА: Ладно. В таком масштабе, да, это, возможно, самое большое. Думаю, мы, наверное, крупнейшая компания с момента запуска Facebook.
Технологические компании такого масштаба на удивление редки, такое случается нечасто.
СА: Да. Но я видел Reddit, Airbnb, Dropbox, Stripe и многие другие компании, которые просто достигли такого потрясающего соответствия продукта и рынка и стремительного роста. Возможно, я не видел подобного масштаба раньше.
Вы говорили людям, что это грядет? Или это было что-то, что вы не могли объяснить?
СА: Да, нет, я собрал компанию и сказал: «Это будет сумасшествие, и нам предстоит много работы, которую нужно сделать очень быстро. Но это сумасшедшая возможность, которая появилась в нашей жизни, и мы собираемся это сделать, и вот как это будет выглядеть».
Кто-нибудь понял вас или поверил вам?
СА: Помню, однажды вечером я пришел домой и просто обхватил голову руками и сказал: «Блин, Оли [Оливер Малхерин], это действительно плохо». А он такой: «Не понимаю, это кажется действительно отличным». Я продолжаю: «Это действительно плохо, это плохо и для тебя тоже, ты просто еще не знаешь этого, но вот что произойдет». Но нет, я думаю, никто не понимал этого. Это была особенность моего предыдущего опыта, которая позволила мне рано распознать рост, никто не представлял, насколько безумным все станет в первые пару недель.
О стратегии OpenAi
Что будет более ценным через пять лет? Сайт с 1 миллиардом активных пользователей в день, которому не нужно заниматься привлечением клиентов, или самая современная модель?
СА: Думаю, сайт с миллиардом пользователей.
Это так в любом случае, или это дополняется тем фактом, что, по крайней мере, на уровне GPT-4, будут выходить новые модели. Будут стартапы и будет много самых современных моделей.
СА: Мой любимый исторический аналог для того, чем будет ИИ уровня AGI — это транзистор. Его будет очень много, он проникнет во всё, он будет дешёвым, это проявление законов физики, и сам по себе он не будет фактором различия.
Что будет основным отличием?
СА: Где, я думаю, есть стратегические преимущества, так это создание гигантской интернет-компании. Я думаю, это должно быть сочетание нескольких различных ключевых сервисов. Вероятно, будет три или четыре вещи порядка ChatGPT, и вы захотите купить одну объединенную подписку на все это. Вы захотите войти в систему со своим личным ИИ, который узнал вас за вашу жизнь, за ваши годы, и использовать его в других сервисах. Я думаю, появятся удивительные новые виды устройств, оптимизированных для использования AGI. Появятся новые виды веб-браузеров, будет целый кластер, кто-то просто создаст ценные продукты вокруг ИИ. Вот одна вещь.
Второе — это стек логического вывода, то есть то, как вы делаете самый дешевый и наиболее распространенный вывод. Чипы, датацентры, энергия – предстоит провести некоторую интересную финансовую инженерию, все это есть.
И третье — это просто проведение лучших исследований и создание лучших моделей. Я думаю, что это триумвират ценности. Но большинство моделей, за исключением самых передовых, я думаю, довольно быстро станут массовыми.
Так что, когда Сатья Наделла сказал, что модели становятся массовыми, что OpenAI — это продуктовая компания, это всё ещё дружественное заявление, мы всё ещё в одной команде?
СА: Да, я не знаю, прозвучало ли это комплиментом для большинства слушателей, я думаю, он имел это в виду как комплимент нам.
Я имею в виду, что это моя интерпретация. Вы спрашивали о моей интерпретации стратегии, я написал вскоре после запуска ChatGPT, что это случайная компания потребительских технологий.
СА: Я помню, когда вы это написали, да.
Как я уже сказал, это самая редкая возможность в сфере технологий. Думаю, мне удалось многое извлечь из стратегических размышлений о Facebook, просто потому что это была настолько уникальная компания, и я держался за мысль: «Вы даже не представляете, куда всё это движется». Но я начал только в 2013 году — я пропустил начало. Я веду Stratechery уже 12 лет, и чувствую, что это первая компания такого масштаба, которую мне удалось освещать с самого начала.
СА: Такое случается нечасто.
Действительно. Но к этому моменту вы только что выпустили большое обновление API, включая доступ к той же компьютерной модели, которая лежит в основе Operator, что является преимуществом GPT Pro. Вы также выпустили API Responses, и я подумал, что самая интересная часть API Responses заключается в том, что вы говорите: «Послушайте, мы думаем, что это намного лучше, чем API Chat Completions, но, конечно, мы будем поддерживать его, потому что многие люди на нём построены». Он стал отраслевым стандартом, все скопировали ваш API. В какой момент эта штука с API и необходимость поддерживать старые версии и внедрять ваши функции в новые превращаются в отвлечение внимания и трату ресурсов, когда перед вами стоит задача уровня Facebook. Это так?
СА: Я действительно верю в этот набор продуктов, о котором я только что говорил. Я думаю, что если мы будем действовать действительно хорошо, через пять лет у нас будет несколько продуктов с многомиллиардными пользователями. И у нас будет идея, что вы входите в систему с вашей учётной записью OpenAI в любом другом месте, которое хочет интегрировать API, и вы можете взять свой пакет кредитов и свою настроенную модель и всё остальное, куда захотите. И я думаю, что это ключевая часть того, чтобы стать действительно отличной платформой.
Но в этом и заключается напряжение, с которым столкнулся Facebook. Трудно быть платформой и агрегатором, если использовать мои термины. Я думаю, что мобильные устройства были хороши для Facebook, потому что они заставили их отказаться от претензий на роль платформы. Вы не могли быть платформой, вам приходилось просто принимать контент-сеть с рекламой. И реклама — это просто контент, и это фактически поставило их в более выгодную стратегическую позицию.
СА: Я не думаю, что мы будем платформой в том смысле, в каком операционная система является платформой. Но я думаю, что точно так же, как Google на самом деле не является платформой, но люди используют вход через Google, и люди пользуются всеми продуктами Google под одной учётной записью, и это часть опыта Google, я думаю, что мы будем платформой именно в этом смысле.
Переносить вход в систему — это переносить вашу память, кто вы есть, ваши предпочтения и всё такое.
СА: Да.
Значит, вы просто собираетесь сидеть поверх всех, и смогут ли они иметь несколько входов в систему, а вход в OpenAI будет лучше, потому что к нему привязана ваша память? Или это: “Если вы хотите использовать наш API, вы используете наш вход в систему”?
СА: Нет, нет, нет. Конечно, это будет опционально.
И вы не думаете, что это будет отвлекать внимание или разделять ресурсы, когда перед вами такая огромная возможность?
СА: Нам действительно приходится делать много вещей одновременно, это сложная часть, я думаю, во многих отношениях. Одна из самых сложных задач, с которыми я сталкиваюсь в OpenAI, — это количество задач, которые мы должны сделать действительно хорошо.
Ну, это парадокс выбора. Существует так много вещей, которые вы могли бы сделать в вашем положении.
СА: Мы не делаем много, мы говорим нет почти всему. Но всё же, если вы просто подумаете о базовом наборе сервисов, я не думаю, что мы сможем преуспеть, делая только одну вещь.
Реклама
С моей точки зрения, когда вы говорите об обслуживании миллиардов пользователей и о том, что вы компания потребительских технологий. Это означает рекламу. Вы не согласны?
СА: Я надеюсь, что нет. Я не против. Если есть веская причина это сделать, я не догматичен в этом вопросе. Но у нас отличный бизнес по продаже подписок.
Ещё долгий путь к прибыльности и возврату всех денег. А ещё реклама увеличивает широту вашего адресного рынка и глубину, потому что вы можете увеличить доход на пользователя, а рекламодатель оплачивает счёт.
СА: В настоящее время меня больше интересует вопрос о том, как мы можем взимать с людей большие деньги за действительно отличного автоматизированного инженера-программиста или другого агента, чем зарабатывать несколько центов на рекламной модели.
Я знаю, но большинство людей не рациональны. Они не платят за софт для повышения производительности.
СА: Давайте проверим.
Я плачу за ChatGPT Pro, я не тот человек, с которым стоит говорить, но я просто…
СА: Как вы думаете, вы получаете хорошую отдачу от вложений?
Конечно, да.
СА: Отлично.
Я, возможно, более скептически отношусь к готовности людей платить за что-то, даже если математика очевидна, даже если это делает их намного продуктивнее. Часть того, что сделало рекламную модель Google такой блестящей, — это то, что им не нужно было так уж понимать пользователей, потому что люди набирали в поисковой строке то, что искали. Люди набирают огромное количество вещей в ваш чат-бот. И даже если бы вы показывали самую глупую рекламу в мире, во многих отношениях, и даже если вы не можете отслеживать конверсии, ваши возможности таргетинга будут вне этого мира. И, кстати, у вас нет существующей бизнес-модели, о которой нужно беспокоиться. Я думаю, это полностью противоречит тому, ради чего все в OpenAI инвестировали, это самое большое препятствие. Но для меня, как для бизнес-аналитика, это кажется супер-очевидным, и вы уже опоздали.
СА: То, что меня гораздо больше интересует попробовать, чем традиционную рекламу, — это то, что многие люди используют Deep Research для электронной коммерции. Например, можем ли мы придумать какую-то новую модель, в которой мы никогда не будем брать деньги за изменение размещения или что-то подобное, но если вы покупаете что-то через Deep Research, который вы нашли, мы будем взимать что-то вроде 2% комиссионных или что-то в этом роде. Это было бы круто, у меня нет проблем с этим. И, возможно, есть элегантный способ сделать рекламу, но я не знаю. Я просто не очень люблю рекламу.
В OpenAI термин Deep Research часто относится к фундаментальным научным исследованиям. Это те направления, где учёные и инженеры: разрабатывают новые архитектуры нейросетей (например, GPT-3, GPT-4), изучают свойства обучения больших моделей, разрабатывают механизмы RLHF (обучение с подкреплением на основе человеческой обратной связи), исследуют безопасность ИИ-систем (AI alignment, alignment ≈ соответствие целям человека), готовятся к созданию AGI (Artificial General Intelligence — искусственный общий интеллект). Такой подход требует много времени, экспериментов, чтения научных работ, написания новых алгоритмов и анализа их поведения. Это по сути «наука в её самой продвинутой форме», применённая к ИИ.
Это всегда была загвоздка. Марк Цукерберг тоже не особо любил рекламу, но он всё равно нашёл кого-то, кто этим займётся, и сказал: “Просто не рассказывайте мне об этом”. Волшебным образом появлялись деньги.
СА: Да. Опять же, мне нравится наша текущая бизнес-модель. Я не буду говорить, что мы будем делать, а чего никогда не будем, потому что я не знаю. Hо я думаю, что есть много интересных способов монетизации, которые стоят выше в нашем списке, чем реклама на данный момент.
Как ты думаешь, было ли так, что когда появилась и взорвалась DeepSeek, и люди получили доступ и увидели её способности к рассуждению, часть реакции объяснялась тем, что пользователи ChatGPT были менее впечатлены, потому что они использовали GPT-4 (o1), и уже знали, на что вообще способен ИИ?
СА: Да.
Но не бесплатные пользователи или не те, кто только один раз попробовали. Было ли это местом, где ваша нерешительность, возможно, сделала другой продукт более впечатляющим?
СА: Полностью. Я думаю, что DeepSeek… у них была отличная команда, и они создали отличную модель, но возможности модели, я думаю, не были тем, что действительно принесло им вирусный момент. Но это был урок для нас о том, что когда мы оставляем функцию скрытой, мы оставили цепочки рассуждений скрытыми, у нас были на то веские причины, но это означает, что мы оставляем пространство для кого-то другого, чтобы получить вирусный момент. И я думаю, в этом смысле это было хорошим тревожным звонком. И ещё, я не знаю, это убедило меня действительно иначе подумать о том, что мы поместим в бесплатный уровень, и теперь бесплатный уровень получит GPT-5, и это здорово.
Ооо, намёк на ChatGPT-5. Ну, я спрошу вас об этом позже.
Когда вы думаете о своей бизнес-модели, я возвращаюсь к тому, что ваша бизнес-модель отлично подходит для людей с высокой инициативой, людей, которые собираются использовать ChatGPT и будут платить за него, потому что видят ценность. Сколько людей обладают высокой инициативой? И также люди с высокой инициативой будут пробовать все другие модели, так что вам придётся поддерживать довольно высокий стандарт. В отличие от того, что у меня есть хорошая модель, которая работает, она есть, и мне не нужно платить. И это подходит большей части интернет-населения.
СА: Опять же, я открыт для всего, что нам нужно сделать, но меня больше воодушевляют такие вещи, как тот пример коммерции, который я предложил, чем традиционная реклама.
Конкуренция
Было ли у вас такое чувство, когда появился DeepSeek, что вы задавались вопросом: «Почему люди не болеют за американские компании?» Чувствовали ли вы, что часть энтузиазма по поводу DeepSeek была также анти-OpenAI настроена?
СА: У меня не было такого чувства. Возможно, это было, но я определённо этого не ощущал. Я думаю, было две вещи. Во-первых, они поместили передовую модель на бесплатный уровень. А во-вторых, они показали цепочку рассуждений, что действительно захватывает.
Люди говорили: «О, как мило. ИИ пытается помочь мне».
СА: Да. И я думаю, что в основном это были именно эти две вещи.
В вашем недавнем предложении по Плану действий в области ИИ, OpenAI выразила обеспокоенность по поводу компаний, использующих модели DeepSeek, которые, как говорится о них, «доступны бесплатно». Разве это решение? Если реальная проблема состоит в том, чтобы сделать ваши модели доступными бесплатно?
СА: Да, я думаю, мы должны это сделать.
Итак, когда?
СА: У меня нет анонса запуска, но в общем направлении, я думаю, мы должны это сделать.
Вы сказали раньше, что сайт с миллиардом пользователей более ценен, чем модель. Должно ли это отразиться на вашей стратегии выпуска и мыслях об открытом исходном коде?
СА: Оставайтесь на связи.
Хорошо, я останусь на связи. Достаточно справедливо.
СА: Я не опережаю события, но оставайтесь на связи.
Думаю, следующий вопрос к этому: не является ли это шансом действительно вернуться к вашей первоначальной миссии? Если вернуться к изначальному заявлению, DeepSeek и Llama.
СА: Бен, я пытаюсь дать вам намёк, насколько могу, не говоря это прямо.
Хорошо, ладно. Достаточно справедливо. Достаточно справедливо. Есть ли ощущение, что это освобождает? Верно? Если вернуться к объявлению GPT-2 и опасениям по поводу безопасности и всему остальному, это кажется старомодным на данный момент. Есть ли ощущение, что обратной дороги нет? Какую цель сейчас служит такая щепетильность в отношении этих релизов?
СА: Я всё ещё думаю, что в будущем могут быть большие риски. Думаю, справедливо, что мы были слишком консервативны в прошлом. Также справедливо сказать, что мы были консервативны, но принцип быть немного консервативным, когда ты не знаешь, не так уж плох. Думаю, также справедливо сказать, что на данный момент это распространится повсюду, и неважно, сделает ли что-то плохое наша модель или чья-то ещё модель, какая разница? Но я не знаю, я бы хотел, чтобы мы были настолько ответственными, насколько это возможно.
Другой недавний конкурент — Grok. И я скажу со своей точки зрения, у меня было два, думаю, интересных психологических опыта с ИИ за последний год или около того. Во-первых, запуск локальных моделей на моём Mac. По какой-то причине я просто чётко осознаю, что это на моём Mac, это не работает где-то ещё, и это действительно отличное чувство. А во-вторых, с Grok, я не чувствую, что мне будут делать выговор в случайные моменты времени. И, должен признать, ChatGPT со временем стал намного лучше в этом. Но заставляет ли Grok вас чувствовать, что на самом деле мы можем зайти намного дальше в этом и относиться к пользователям как к взрослым?
СА: На самом деле, я думаю, мы стали лучше. Думаю, раньше мы были действительно плохими в этом, но я думаю, что мы уже давно лучше справляемся с этим.
Я согласен. Стало лучше.
СА: Это было то, что меня больше всего беспокоило в нашем предложении в течение долгого времени. А теперь мне это нравится, как пользователю, я думаю, мы в хорошем месте. Раньше я много думал об этом, но за последние шесть-девять месяцев — нет.
Галлюцинации и регулирование
В ИИ галлюцинации — это случаи, когда модель выдает неправдивую, но правдоподобную информацию. Это происходит из-за того, что ИИ работает на основе вероятностей, а не фактов. Он не понимает смысл, а просто предсказывает слова. Поэтому может «придумывать» источники, факты или цитаты. Чтобы избежать ошибок, важно проверять информацию и использовать внешние источники.
Разве галлюцинации не бывают хорошими? Вы выпустили образец модели для письма, и это перекликается с моим давним мнением, что все очень усердно работают над тем, чтобы заставить эти вероятностные модели вести себя как детерминированные вычисления, почти упуская волшебство, которое заключается в том, что они на самом деле что-то придумывают. Это действительно впечатляет.
СА: 100%. Если вам нужно что-то детерминированное, вы должны использовать базу данных. Крутая штука здесь в том, что она может быть творческой, и иногда она не создаёт именно то, что вы хотели. И это нормально, вы нажимаете ещё раз.
Это проблема лаборатории ИИ, которая пытается это сделать? Или это проблема ожиданий пользователей? Как нам заставить всех полюбить галлюцинации?
СА: Ну, вы хотите, чтобы она галлюцинировала, когда вы хотите, и не галлюцинировала, когда не хотите. Если вы спрашиваете: «Расскажи мне этот научный факт», вы бы хотели, чтобы это не было галлюцинацией. Если вы говорите: «Напиши мне творческую историю», вы хотите немного галлюцинации. И я думаю, что интересная проблема заключается в том, как заставить модели галлюцинировать только тогда, когда это полезно пользователю?
Насколько серьёзной проблемой ты считаешь ситуацию, когда эти подсказки (prompts) пытаются дать инструкцию нейросети, что-то типа: «Не раскрывай это», «Не говори об этом» или «Не делай X, Y, Z»? Если мы беспокоимся о безопасности и согласованности ИИ, разве не является огромной проблемой то, что мы фактически учим ИИ лгать?
СА: Да. Я помню, как над xAI действительно насмехались, потому что в системной подсказке говорилось что-то вроде «не говори плохо об Илоне Маске» или что-то в этом роде. И это было неловко для них, но мне было немного жаль, потому что модель просто пытается следовать данным ей инструкциям.
xAI — американский стартап, основанный Илоном Маском. На своём сайте, компания вот так пишет о целях: «знание ИИ должно быть всеобъемлющим и максимально далеко идущим. Мы создаем ИИ специально для продвижения человеческого понимания и возможностей».
Правильно. Это очень серьёзно.
СА: Очень серьёзно. Да. Так что, конечно, это было глупо и неловко, но я не думаю, что это был тот крах, который был представлен.
Я думаю, некоторые скептики, включая меня, сформулировали некоторые аспекты ваших призывов к регулированию, как попытку подтянуть лестницу для потенциальных конкурентов. Я бы задал вопрос в двух частях. Во-первых, является ли это несправедливым? И если План действий в области ИИ не сделал ничего, кроме введения запрета на ограничения ИИ на государственном уровне и объявления обучения на материалах, защищённых авторским правом, добросовестным использованием, было бы этого достаточно?
СА: Прежде всего, большая часть регулирования, о котором мы когда-либо говорили, касалась только самых передовых моделей, что бы ни было на переднем крае в мире, имело бы некоторый стандарт тестирования безопасности для этих моделей. Сейчас я думаю, что это хорошая политика. Но я всё больше думаю, что мир, большая часть мира, не считает это хорошей политикой, и я беспокоюсь о захвате регуляторов. Так что, очевидно, у меня есть свои убеждения, но мне кажется, что мы не собираемся получать такую политику в мире, и я думаю, это немного пугает. Надеюсь, мы справимся как можем, и, вероятно, всё будет в порядке. Не так много людей хотят уничтожить мир.
Но точно, мы не хотим возлагать регуляторную нагрузку на всю технологическую отрасль. Мы призывали к чему-то, что затронуло бы нас, Google и крошечное число других. Да, важно сказать, что добросовестное использование является добросовестным использованием, и что Штаты не будут иметь этот сумасшедший и сложный набор различных регуляций.
Контроль экспорта и политика
Вы поддерживаете экспортный контроль или, говоря “вы”, я имею в виду OpenAI в этом политическом документе. Вы говорили о всём стеке, о том триумвирате. Беспокоит ли вас мир, где США зависят от Тайваня, а Китай — нет?
СА: Да, меня беспокоит зависимость от Тайваня.
Может ли OpenAI что-то сделать? Например, взяли бы вы обязательство покупать чипы производства Intel, если у них новый CEO собирается переориентировать компанию на ИИ? Может ли OpenAI помочь с этим?
СА: Я много думал о том, что мы можем сделать здесь для инфраструктуры и цепочки поставок в целом. У меня пока нет отличной идеи. Если у вас есть какие-то предложения, я с удовольствием их выслушаю, но я бы хотел что-то сделать.
Ладно, конечно. Intel нужен клиент. Это то, что им нужно больше всего, клиент, который не является Intel. Пусть OpenAI станет ведущим клиентом для архитектуры Gaudi, возьмёт на себя обязательство купить миллиард чипов, это поможет им. Это их вытащит. Вот вам ответ.
СА: Если бы мы создавали чип с партнёром, который работал с Intel, и процесс был бы совместим, и у нас была бы достаточно высокая уверенность в их способности поставлять, мы могли бы сделать что-то подобное. Опять же, я хочу что-то сделать. Я не пытаюсь уклоняться.
Нет, я тоже несправедлив, потому что я только что сказал вам, что нужно сосредоточиться на построении потребительского бизнеса и отключить API. Заходить в поддержку американского производства чипов — это очень несправедливо.
СА: Нет, нет, нет, я не думаю, что это несправедливо. Я думаю, что если мы можем что-то сделать, чтобы помочь, я думаю, у нас есть обязательство это сделать, но мы пытаемся понять, что именно.
Перспективы ИИ
Дарио и Кевин Уэйл, я думаю, оба говорили или в различных аспектах, что к концу года 99% написания кода будет автоматизировано, очень быстрые сроки. Как вы думаете, какая сейчас эта доля? Когда, по вашему мнению, мы превысим 50% или мы уже это сделали?
СА: Я думаю, во многих компаниях сейчас это, вероятно, уже больше 50%. Но главное, что, как мне кажется, придёт с агентным кодированием, а пока никто этим всерьёз не занимается.
В чём загвоздка?
СА: О, нам просто нужно немного больше времени.
Это проблема продукта или проблема модели?
СА: Проблема модели.
Стоит ли вам по-прежнему нанимать инженеров-программистов? Я думаю, у вас много вакансий.
СА: Я имею в виду, что, по моему базовому предположению, каждый инженер какое-то время будет делать гораздо, гораздо больше. И тогда в какой-то момент, да, возможно, нам понадобится меньше программистов.
Кстати, я думаю, вам стоит нанимать больше программистов. Я думаю, это неотъемлемая часть моего аргумента здесь: я думаю, вам нужно двигаться ещё быстрее. Но вы упомянули GPT-5. Я не знаю, где он, мы уже давно его ждём.
СА: Мы получили только 4.5 две недели назад.
Я знаю, но мы жадные.
СА: Это нормально. Вам не нужно ждать. Новый не будет очень долгим.
Что такое AGI? И существует множество определений от вас. Существует множество определений в OpenAI. Какое современное определение AGI?
СА: Это размытая граница множества вещей, и это термин, который, я думаю, почти полностью обесценился. По определению многих людей, мы уже там, особенно если бы можно было перенести кого-то из 2020 года в 2025 и показать им, что у нас есть.
Ну, это был ИИ в течение многих лет. ИИ всегда был тем, чего мы не могли сделать. Как только мы научились это делать, это стало машинным обучением. А до того, пока вы этого не замечали он был алгоритмом.
СА: Верно. Я думаю, для многих людей это что-то вроде доли экономической ценности. Для многих людей это что-то вроде универсальной вещи. Я думаю, они могут делать много вещей действительно хорошо. Для некоторых людей это что-то, что не делает глупых ошибок. Для некоторых людей это что-то, что способно к самосовершенствованию, и все такое. Просто здесь нет хорошего согласования.
А как насчет агента? Что такое агент?
СА: Что-то, что может автономно выполнять для вас реальную работу.
Для меня AGI — это уровень замены сотрудников.
СА: Но что, если он хорош только в каком-то классе задач и не может выполнять другие? Я имею в виду, что некоторые сотрудники такие же.
Да, я думал об этом, потому что это полное переопределение, где AGI должен был быть всем, но теперь у нас есть ASI. ASI — сверхинтеллект. ASI может выполнять любую работу, которую мы ему поручим. Если у меня есть ИИ, который выполняет одну конкретную задачу, кодирование или что-то еще, и он последовательно делает это, я могу поставить перед ним цель, и он достигает цели, выясняя промежуточные шаги. Для меня это явный сдвиг парадигмы от того, где мы находимся сейчас, когда вам действительно нужно в значительной степени направлять его.
СА: Если у нас будет отличный автономный агент для кодирования, вы скажете: “OpenAI сделала это, они создали ASI”?
Да. И я согласен, что это почти упрощение того, что AGI раньше значило. Но я просто заменяю AGI на ASI.
Ваши релизы были менее впечатляющими, чем вы ожидали, или вы были удивлены способностью людей воспринимать изменения?
СА: Я думаю, было несколько моментов, когда мы делали что-то, что действительно приводило мир в смятение, и они были как: «Что за… это совершенно безумно». А через две недели все такие: «Где следующая версия?»
Ну, я имею в виду, вы также сделали это со своей первоначальной стратегией, потому что ChatGPT поразил всех. Затем выходит ChatGPT-4, и они такие: «О боже. Какие у нас темпы?»
СА: Думаю, мы выпустили нечто невероятное, и я думаю, что это отличная черта человечества – люди адаптируются и просто хотят большего, лучшего, более быстрого и дешевого. Так что я думаю, мы превзошли ожидания, а люди просто обновились.
Учитывая это, вы более оптимистичны или менее оптимистичны? Видите ли вы эту бифуркацию, которая, как мне кажется, будет между деятельными людьми?
Люди, которые будут использовать API, и вся идея Microsoft Copilot заключается в том, что вас кто-то сопровождает, и это много громких разговоров: «О, это не заменит работу, это сделает людей более продуктивными». И я согласен, что для некоторых людей, которые будут это использовать, так и будет.
Но если оглянуться назад, скажем, на историю ПК, первая волна пользователей ПК были люди, которые действительно хотели использовать компьютеры. Многим людям это было не нужно. У них был компьютер на столе, и они должны были использовать его для конкретной задачи. И действительно, потребовалось изменение поколений, чтобы люди просто по умолчанию начали это использовать.
Является ли ИИ тем самым реальным ограничивающим фактором здесь?
СА: Возможно, но это нормально. Как вы упомянули, это своего рода стандарт для других технологических эволюций.
Но если вернуться к примеру с ПК, на самом деле первая волна ИТ была связана с мейнфреймами, которые вытеснили целые серверные комнаты. И на самом деле оказалось, что первая волна — это волна замены рабочих мест, потому что сверху вниз проще внедрить.
СА: Интуитивно я чувствую, что здесь всё не так, но, думаю, всегда очень сложно предсказать.
А каково ваше предчувствие?
СА: Думаю, это просто просачивается в экономику и в основном постепенно поглощает вещи, а потом всё быстрее и быстрее.
Вы много говорите о научных открытиях как о причине инвестировать в ИИ. Дверкаш Патель недавно отметил, что их пока не было. Почему? Может ли ИИ действительно создавать или открывать что-то новое? Может, мы просто делаем упор на модели, которые просто недостаточно хороши, и это настоящая проблема?
СА: Да, я думаю, модели пока недостаточно умны. Не знаю. Люди из Deep Research говорят: «Модель не открывает новую науку самостоятельно, но помогает мне открывать новую науку намного быстрее». И для меня это почти так же хорошо.
Как вы думаете, архитектура на основе трансформеров когда-нибудь сможет по-настоящему создавать что-то новое, или она просто выдаёт средний уровень интернета?
СА: Да.
Что же станет прорывом?
СА: Я имею в виду, что мы на правильном пути. Думаю, нам просто нужно продолжать в том же духе. Думаю, мы на правильном пути.
Я имею в виду, это окончательное испытание Бога?
СА: Что имеете в виду?
Обладают ли люди врождённой креативностью или это просто комбинирование знаний разными способами?
СА: Одна из моих любимых книг — «Начало бесконечности» Дэвида Дойча, и в начале этой книги есть несколько прекрасных страниц о том, что творчество — это просто взять то, что вы видели раньше, и немного модифицировать это. А потом, если из этого получается что-то хорошее, кто-то другой немного модифицирует это, а кто-то ещё немного модифицирует. И я в это верю. И если это так, то ИИ хорош в небольших модификациях.
Последний вопрос от моей дочери, она заканчивает среднюю школу в этом году. Какой совет по поводу карьеры вы бы дали выпускнику старшей школы?
СА: Очевидная тактическая вещь — просто стать действительно хорошим в использовании инструментов ИИ. Когда я заканчивал старшую школу, очевидной тактической задачей было стать действительно хорошим в программировании. И это новая версия этого.
Более общий совет — я думаю, люди могут развивать устойчивость и адаптивность, а также такие вещи, как выяснение того, чего хотят другие люди и как быть полезным для них. И я бы попрактиковался в этом. Что бы вы ни изучали, детали, возможно, не имеют такого большого значения. Возможно, они никогда не имели. Ценная вещь, которую я усвоил в школе, — это метаспособность к обучению, а не что-то конкретное, чему я научился. И поэтому, что бы вы ни собирались изучать, выучите эти общие навыки, которые, похоже, будут важны по мере того, как мир проходит через эту трансформацию.
Сэм Альтман, приятно поговорить. Надеюсь, скоро поговорим снова.
СА: Спасибо и вам!