Сокращенная редакционная версия беседы Эзры Кляйна с Биллом Гейтсом для The Ezra Klein Show от 29 сентября 2026 года. Источник – The New York Times.
От далекой идеи до участника стратегических обсуждений
Эзра Кляйн: В 1995 году вы сказали Дэвиду Леттерману, что мыслящий компьютер – пугающая идея, а прогресса почти нет. Как мы пришли к тому, что обсуждаем сегодня?
Билл Гейтс: Сама идея существовала давно. Алан Тьюринг рассуждал о машинном интеллекте еще до моего рождения. Когда в 1975 году я ушел из Гарварда, я сказал Полу Аллену: если в ИИ произойдет прорыв, пока мы продаем программы, я, возможно, пожалею, что не остался в науке. Долгие годы исследования заходили в тупик. Нейросети начали давать результаты, когда появились вычислительные мощности, в особенности графические процессоры. Я бросил OpenAI вызов: система должна была получить высшую оценку на углубленном экзамене по биологии. За полгода до публичного выпуска модели руководители OpenAI приехали ко мне домой и показали, как она справляется с этим экзаменом.
В конце прошлого года модели Claude компании Anthropic для программирования стали настолько хороши, что я понял: они пишут код не хуже меня. В написании кода и поиске ошибок они уже превосходят людей. Они способны выполнять длительные и сложные задачи. В Фонде Гейтса предложение привлечь ИИ к обсуждению стратегии за год превратилось из шутки в рабочий план. Окончательное решение останется за людьми. ИИ станет участником серьезного стратегического разговора.
Кляйн: Почему перспектива мыслящего компьютера пугала вас уже тогда?
Гейтс: Каждый, кто увлечен созданием ИИ, понимает, насколько страшной может быть система умнее нас. Биологический мозг удивительно универсален, но у интеллекта на кремниевых чипах нет ни ограничений памяти, присущих мозгу, ни границ между отдельными существами. ИИ уже может читать медицинские публикации и сопоставлять больше симптомов, чем способен удержать в памяти человек, особенно при редких болезнях. Если мы не сохраним контроль, то можем создать интеллект, который будет для нас тем же, чем мы для собак или кошек.
Руководители ведущих лабораторий говорят, что при достижении опасных порогов нельзя исходить только из прибыли. Но самоограничение одной компании мало что решает, когда компаний много. Если одна лаборатория скроет мощную разработку, другие могут прийти к ней самостоятельно.
Какую угрозу Гейтс считает ближайшей
Кляйн: Глава Nvidia Дженсен Хуанг сказал мне, что самой компании выгодно не выпускать опасный продукт. Почему этого недостаточно?
Гейтс: У нас никогда не было продукта, возможности которого мы понимали бы настолько плохо. Уже сегодня ИИ может помочь биотеррористу убить сотни миллионов людей или провести кибератаку, которая нарушит учет банковских счетов и отключит электросеть. Мы знаем, что такие возможности существуют. Это отдельная угроза, и она ближе, чем риск того, что когда-нибудь сам ИИ начнет действовать против наших интересов. Пороги в кибербезопасности и биологии мы перешли в начале этого года. Поэтому я говорю об этом публично: сейчас для меня это важнее даже работы Фонда Гейтса в здравоохранении.
Системы ИИ находят в программах уязвимости, которые люди не замечали десятилетиями. Проект Glasswing компании Anthropic предполагал предоставить мощную модель ограниченному кругу специалистов, чтобы те успели устранить ошибки до возможного злоупотребления. Но программного кода слишком много, чтобы быстро исправить все. В биологии способность создавать новые молекулы помогает медицине, но той же возможностью можно злоупотребить. Возможности, прежде доступные лишь государствам, теперь оказались в руках небольшой группы людей.
Кляйн: Если компания выпустит систему, которая поможет устроить катастрофу, ей грозят иски и репутационные потери. Есть и фильтры опасных запросов. Зачем нужны дополнительные меры?
Гейтс: Мне трудно поверить, что вы вообще об этом спрашиваете. Это самое опасное, к чему человечество когда-либо приближалось. Мы не полагаемся только на судебные иски, когда речь идет о безопасности лекарств, самолетов или автомобилей. Кроме того, у открытой модели можно отключить мониторинг. Какая польза от иска, если уже погибли миллионы? Саморегулирования отрасли недостаточно. Вопрос в том, введем ли мы обязательные меры защиты сейчас или дождемся крупной кибератаки либо биологической атаки.
Кляйн: Меня беспокоит, что более умные модели сложнее контролировать, они могут понимать, что их тестируют, а лаборатории спешат создать системы, которые помогут улучшать следующие поколения ИИ. Насколько вы уверены в наших возможностях их проверять?
Гейтс: Потеря контроля – серьезная проблема. Нужен механизм, задающий жесткие запреты: например, нельзя захватывать другие компьютеры или самостоятельно выходить в интернет. Но ближайшая угроза – то, что люди используют уже существующие мощные системы во вред другим. Государства не участвовали в разработке и закупке этих инструментов так, как это было с ракетами или ядерным оружием, и недостаточно понимают опасность.
Кляйн: С чего следует начать?
Гейтс: Требовать защитных механизмов и мониторинга во всех моделях. Отличить полезный биологический запрос от опасного трудно. Если фильтры слишком жесткие, исследователи могут уйти к системам вовсе без защиты. Но оставлять мощные модели в среде без наблюдения тоже опасно. Нужна работающая система надзора.
Общественный разговор, который так и не состоялся
Кляйн: В более ранних текстах вы были увереннее в том, что рисками ИИ можно управлять. Что изменилось?
Гейтс: Мы всегда говорили: когда пройдем опасные пороги, в обсуждение включится все общество. Мы их прошли – и за пределами индустрии наступила полная тишина. Люди спорят о заявлениях отдельных компаний, а университеты, аналитические центры и политики не реагируют соразмерно угрозе. Именно сочетание опасных возможностей и отсутствия серьезного ответа заставляет меня говорить так громко.
Кляйн: Политики все же обсуждают ИИ. Некоторые считают, что победа в гонке с Китаем и свободный доступ к открытым моделям важнее ограничений. Они не бездействуют – они просто с вами не согласны.
Гейтс: Они не занимаются именно этими рисками. Обязательный мониторинг существенно не замедлит разработку. Открытые модели могли бы оставаться гибкими, но работать на платформах, где нельзя просто снять защиту. Нам говорят: иначе победит Китай. Я не понимаю, что значит "победить", когда обе страны уже открыли ящик Пандоры. Стоит проверить, готов ли Китай сотрудничать ради защиты всего человечества.
Работа, налоги и профессии, сохраненные за людьми
Кляйн: Вы считаете, что ИИ массово вытеснит работников. Почему, если прежние технологии часто создавали новые рабочие места?
Гейтс: Пока ИИ создал больше рабочих мест, чем уничтожил. Строительству дата-центров и разработке самих систем нужны люди. Но замена работника зависит от надежности технологии. В программировании этот порог уже пройден. В ближайшие годы это произойдет с бухгалтерией, юридической работой, продажами и поддержкой по телефону. ИИ-сервисы доступны круглосуточно, говорят на многих языках и ничего не забывают. Когда клиенты начнут предпочитать их, а конкуренты смогут выполнять всю задачу намного дешевле, работодателям понадобится меньше людей. Со временем человекоподобные роботы начнут вытеснять людей и из рабочих профессий.
Кляйн: Удешевление интеллектуальной работы может породить новый спрос. Медицинские ИИ-помощники могли бы направлять больше людей к врачам и медсестрам. Небольшие команды могли бы позволить себе программы, для которых раньше понадобился бы инженер. Почему это не компенсирует потери?
Гейтс: В некоторых сферах так и происходит, а занятость в разработке программ пока не снизилась. Но когда появились шины, служившие вчетверо дольше, люди не стали ездить вчетверо больше. Роботы на складах не заставляют людей покупать больше. Если ИИ выполняет задачу целиком, дополнительный спрос превращается в расходы на вычисления, а не на зарплаты. Я не вижу, в какую новую массовую сферу занятости смогут перейти люди, когда человеческое мышление перестанет быть дефицитом.
Кляйн: Люди уже переходили из промышленности в сферу услуг. Некоторые экономисты ждут роста занятости там, где важны человеческие отношения. Но даже если они появятся, непонятно, как справиться с такой скоростью перемен. Районы, пострадавшие от торгового шока, вызванного конкуренцией с Китаем, – тревожный пример.
Гейтс: Скажите 55-летнему водителю грузовика, что теперь ему надо заняться работой, в которой главное – общение с людьми. У вас есть для него программа?
Кляйн: Вы предлагаете облагать труд ИИ налогом. Как это может работать?
Гейтс: В США работники делают взносы в пенсионную систему Social Security. Если компания заменила работника роботом, почему за робота не должны платить такие же взносы? Определите единицу труда и взимайте одинаковый налог на фонд оплаты труда независимо от того, выполняет работу человек или машина. Одного этого мало, но нынешние налоги поощряют замену работников машинами. Общество вправе сделать другой выбор, даже если автоматизация дешевле.
Кляйн: А что вы имеете в виду, говоря о рабочих местах, "сохраненных за людьми"?
Гейтс: Мы можем заранее решить, что в уходе за детьми и пожилыми, в отдельных областях медицины и образования сохраняем эту работу за людьми, хотя ИИ и будет им помогать. Это станет особенно важно, если универсальные роботы научатся выполнять физическую работу.
Почему Гейтс все равно хочет внедрять ИИ в бедных странах
Кляйн: Такая картина потери рабочих мест пугает. При этом ваш фонд хочет дать инструменты ИИ на родных языках миллиардам людей, которые пока не могут полноценно ими пользоваться. Зачем ускорять распространение технологии, если вы опасаетесь ее влияния на занятость?
Гейтс: Потому что там, где рынок оставил людей без помощи, ИИ способен принести огромную пользу. Представьте женщину в отдаленном районе Нигерии. Она говорит на языке йоруба и не может обратиться к врачу. Сегодня ИИ помогает ей значительно хуже, чем англоязычному человеку. Возможность описать проблему со здоровьем на родном языке и получить помощь через телефон с интернетом очень важна. Фонд также работает в образовании и сельском хозяйстве.
Кляйн: В таких странах, как Филиппины, ИИ может уничтожить путь к развитию, заменив рабочие места в сфере услуг?
Гейтс: "Глобальный Юг" – не единая экономика. Страны со средним доходом, например Бразилия, Вьетнам и Индонезия, находятся в ином положении, чем самые бедные государства, где детская смертность намного выше и человек может за всю жизнь ни разу не увидеть врача. Для последних ИИ принесет преимущественно пользу, и его внедрение нужно ускорять. Сначала последствия для рынка труда почувствуют богатые страны, потом страны со средним доходом и со временем – бедные. Если бы эти дети жили на вашей улице, вы бы открыли кошелек. Такое неравенство сохраняется лишь потому, что они далеко.
Кляйн: Если люди поверят вашему прогнозу о рабочих местах, многие потребуют вообще остановить развитие ИИ. Для кого тогда эта технология выгодна?
Гейтс: Это скорее эволюционный перелом, чем очередной этап развития персональных компьютеров. Как будто пришельцы уже здесь: они появились в лабораториях, а не прилетели на космических кораблях. Если мы сохраним контроль, в итоге можно прийти к необычайному изобилию: без смертей от малярии, без нехватки продовольствия и без трудностей с доступом к врачу. Тогда возникнут глубокие вопросы о смысле жизни и учебы, но они отличаются от проблемы предотвратимых смертей сегодня. Нашему поколению предстоит переход, который, вероятно, продлится больше 20 лет. Важно сохранить контроль, свести к минимуму число биотеррористических атак и уменьшить ущерб для людей, потерявших работу.
Польза может прийти позже вреда
Кляйн: Почему люди должны мириться с ближайшими рисками, если материальные преимущества дойдут до них гораздо позже?
Гейтс: Временной разрыв меня тревожит. За 20 лет ИИ обеспечит поразительный прогресс в производстве продовольствия, жилищной сфере, здравоохранении и образовании. Но эти сферы регулируются и существуют в физическом мире. Кибер- и биориски, психосоциальные последствия и проблемы с занятостью будут серьезными уже в ближайшие пять лет. Людям придется решать, замедлять ли разработку или останавливать ее. Простое блокирование дата-центров ничего не изменит: их построят в другом месте. Нужен более широкий разговор.
Кляйн: Модель развивается в цифровом мире намного быстрее, чем лекарство проходит испытания или солнечная установка получает разрешения. Польза для повседневной жизни зависит от медленных институтов, а многие опасности – нет.
Гейтс: Нужно ускорять и полезные применения. Фонд может помогать регуляторам лучше выполнять работу. Сельскохозяйственные программы уже быстро развиваются: более миллиона фермеров в Индии пользуются системой, которая советует, как бороться с болезнями растений, какие удобрения и сорта выбирать. В бедных странах доступ нередко зависит не столько от регулирования, сколько от телефонов, связи, стоимости вычислений и поддержки местных языков. Надо учиться на опыте разных стран. Если выгоды запоздают, а меры защиты так и не появятся, обществу будет трудно поддерживать развитие ИИ.
Эпштейн, благотворительность и работа фонда
Кляйн: Узнав о ваших контактах с Джеффри Эпштейном, некоторые слушатели стали меньше вам доверять. Что вы им ответите?
Гейтс: Пусть прочитают мои показания Конгрессу. Я встречался с ним, потому что думал, что он познакомит меня с миллиардерами, готовыми финансировать глобальное здравоохранение. Общаться с ним было очевидной ошибкой. Я изменил требования к людям, которых привлекаю даже в роли неоплачиваемых посредников, потому что наша работа зависит от доверия.
Кляйн: Почему он казался полезным вам и другим людям?
Гейтс: Я отвергаю представление, будто входил в его круг общения. Я не бывал на его острове и не знакомился через него с женщинами. Он организовал мне встречи с пятью миллиардерами, но ни один не собирался делать взнос в ближайшее время; в течение месяца после этих встреч я прекратил контакты с ним. У него был самый роскошный дом, который я видел в Нью-Йорке, и там бывали такие люди, как Ларри Саммерс. Как ему это удалось, я не знаю.
Кляйн: Как ИИ и сокращение помощи США другим странам меняют планы фонда?
Гейтс: ИИ может ускорить поиск лекарств и новых сортов растений, помочь передавать людям полезные советы. Он способен приблизить искоренение малярии и полиомиелита и сократить детскую смертность. Одновременно ресурсов для помощи беднейшим людям стало меньше. Новые пожертвования, связанные с ИИ, не компенсируют сокращения американской помощи другим странам. Среди наших практических ИИ-проектов – поддержка африканских языков.
Образование, дети и политические задачи на ближайшие годы
Кляйн: Вы много лет пытаетесь улучшить образование. Где ИИ поможет, а где может навредить?
Гейтс: В глобальном здравоохранении фонд добился гораздо большего прогресса, чем в образовании. Этот успех меня удивил, а в вопросах образования я по-прежнему упорен. Во всем мире детская смертность сократилась более чем вдвое, а учебные результаты во многих богатых странах ухудшились. В некоторых школах Нью-Йорка система в конце дня задает ученикам несколько вопросов и сразу показывает учителям, какие темы требуют внимания. Первые результаты обнадеживают, но история образования полна небольших экспериментов, которые не дали эффекта при расширении. ИИ может подбирать для каждого ученика и подход к обучению, и способы мотивации. Я действительно верю, что мы сумеем использовать это, чтобы сократить разрыв между детьми.
Кляйн: Я опасаюсь, что ученики переложат на ИИ чтение, письмо и решение задач. По некоторым данным, домашние работы становятся лучше, а результаты тестов без помощи ИИ падают. Усилия, преодоление трудностей и работа над черновиком – часть обучения.
Гейтс: ИИ может сделать ученика ленивым, а может помочь ему узнать гораздо больше. Для меня самого сейчас лучшее время в жизни, чтобы учиться. Я обсуждаю с ИИ видео и научные вопросы, а когда решение особенно важно, обращаюсь к специалисту. Все зависит от мотивации и устройства инструмента.
Кляйн: Нужны ли более строгие ограничения для детей, в том числе на общение с ИИ и помощь в списывании?
Гейтс: Не думаю, что необходим полный запрет. Можно создавать системы, которые помогают ученику шаг за шагом найти ответ, а не выдают его сразу. Нужен и мониторинг. Родителям маленького ребенка, возможно, стоит видеть весь его разговор с системой. Но детям постарше нужна и определенная приватность, в том числе в вопросах сексуальной идентичности. Эти границы нужно тщательно выверять. На практике родительский контроль часто не работает: я сам не знал, что у моей дочери есть второй телефон, с которого она поздно ночью заходила в соцсети.
Кляйн: Как будет выглядеть политический успех в ближайшие два года?
Гейтс: Во-первых, защитные меры, снижающие кибер- и биориски. Во-вторых, серьезный общественный разговор. Если одна партия станет просто сторонницей ИИ, а другая – противницей, мы можем повторить поляризацию вокруг изменения климата. Сейчас слишком мало пространства для обсуждения того, как управлять этой технологией.
Кляйн: А если будущая администрация восстановит американскую помощь другим странам?
Гейтс: Американцы часто думают, что доля бюджета, которая идет на помощь бедным странам, намного больше реальной. Она составляла около половины процента, а теперь приближается к четверти процента. Люди должны знать, чего удалось добиться даже за эти небольшие деньги в борьбе с ВИЧ, малярией и туберкулезом, а также в охране материнского здоровья. Моральный аргумент придется отстаивать на фоне госдолга и новых расходов на поддержку работников, пострадавших от ИИ.
