Враждебность к искусственному интеллекту в США перестала быть темой одной политической стороны. По мнению физика Макса Тегмарка, главы Future of Life Institute, против бесконтрольной гонки за созданием сверхразума сегодня выступают и ультраправые, и левые – от Стива Бэннона до Берни Сандерса.
Как передает "Хвиля", об этом сообщает The Economist.
В интервью изданию Тегмарк рассказал, что недавно за один день провел в Конгрессе две встречи подряд: час обсуждал риски сверхразума со Стивом Бэнноном и еще час – с Берни Сандерсом. "После того как почти всю жизнь я считал, что эти двое вообще ни в чем не согласны", – признался он.
По его словам, опросы показывают, что около 95% американцев не поддерживают нынешний курс на стремительное создание сверхинтеллекта. Недовольство охватило не только крайние фланги, но и всех, кто между ними. Политики, с которыми общался Тегмарк, в частных разговорах признают резкий разворот настроений среди избирателей – и уже чувствуют в этом выигрышную предвыборную тему.
Главное, что объединяет критиков, физик называет "гонкой за замену" людей. Бизнес-модель крупных компаний, по его мнению, сводится к тому, чтобы вытеснить человека отовсюду. Сначала мелочи: ИИ-подруги вместо живых отношений, ИИ вместо психотерапевта. Дальше – замена людей в принятии решений.
Тегмарк признает пользу технологий там, где они помогают: например, когда ИИ лучше врача диагностирует рак. Но значительная часть процесса, настаивает он, сводится к другому – уволить программиста и поручить его работу машине. Если этим никто не управляет, конкуренцию проиграют даже компании с руководителем-человеком: их обойдут фирмы с искусственным директором.
Отдельно физик вспомнил идею "правосубъектности" ИИ, которую отстаивают, по его словам, "сумасшедшие" люди – чтобы можно было создать компанию вообще без людей. Тогда некого будет судить и некому отвечать. В военной сфере такая логика означает замену генералов на ИИ, который принимает решения самостоятельно.
Тегмарк предупреждает: двигаясь этим путем, человечество может добровольно "отдать ключи от Земли" – даже без восстания машин, как в фильмах. Он проводит историческую параллель: когда колонизаторы появлялись где-то с куда более мощной военной техникой, для местных это заканчивалось плохо. "Зачем нам, людям, ставить себя в такое бесправное положение?" – спрашивает он.
