«Крёстный отец искусственного интеллекта» о рисках и угрозах ИИ для человечества: эксклюзивное интервью с лауреатом Нобелевской премии Джеффри Хинтоном

Искусственный интеллект развивается настолько стремительно, что меняет окружающий нас мир день за днём, одновременно поднимая вопрос, который ещё недавно казался научной фантастикой: что произойдёт, когда машины станут умнее людей?

Учёный-компьютерщик Джеффри Хинтон, лауреат Нобелевской премии по физике 2024 года, является одним из тех, кто стоит у истоков современного искусственного интеллекта. Он совместно с Джоном Хопфилдом был удостоен высшей научной награды в своей области за фундаментальные открытия и изобретения, которые способствовали развитию машинного обучения с использованием искусственных нейронных сетей. На протяжении многих десятилетий он делал то, что когда-то казалось невозможным.

Его революционная работа над искусственными нейронными сетями заложила основу для многих систем ИИ, которые сегодня преобразуют наш мир. Неслучайно его часто называют «крестным отцом искусственного интеллекта».

Однако в 2023 году Хинтон покинул Google, чтобы более открыто говорить об опасностях технологии, в разработке которой он принимал участие. Его опасения не ограничиваются перспективой замены людей машинами на рабочем месте. Он предупреждает, что все более интеллектуальные системы ИИ могут стать сложными в управлении, а их неправильное использование может привести к новым угрозам. Эти угрозы варьируются от сложных кибератак до биологического оружия.

Тем не менее Хинтон не считает, что человечество должно отказаться от искусственного интеллекта. Он верит, что ИИ может принести человечеству огромную пользу, но только в том случае, если параллельно с его развитием будут предприняты серьезные шаги для управления потенциальными рисками.

В эксклюзивном интервью «Арменпресс», данном в рамках фестиваля STARMUS VIII, проходившего на Канарских островах Испании, Хинтон рассказал о самых больших угрозах ИИ, возможностях регулирования этой быстро развивающейся технологии со стороны правительств, а также о необходимости подотчетности ученых, которые ее создают.

— Профессор Хинтон, я знаю, что это, вероятно, самый часто задаваемый Вам вопрос. Как «крестный отец ИИ», каковы, по Вашему мнению, самые большие риски, которые ИИ представляет для человечества?

— Существует множество различных рисков. Основные краткосрочные риски связаны со злоупотреблением ИИ.

ИИ становится все лучше и лучше в проведении кибератак. Один из самых непосредственных рисков заключается в том, что люди будут использовать его для проведения чрезвычайно сложных кибератак. И когда ИИ станет лучше людей в проведении кибератак, что, вероятно, произойдет довольно скоро, единственным способом защититься будет использование другого ИИ. Проблема кибератак в том, что злоумышленнику достаточно добиться успеха всего один раз, в то время как защитник должен уметь остановить атаку каждый раз. Это крайне тревожно, и мы, вероятно, станем свидетелями очень плохих событий в ближайшие несколько лет.

Еще одна непосредственная угроза — создание биологических вирусов. Уже сейчас возможно создавать новые вирусы. Люди показали, что они могут создавать вирусы, которые атакуют бактерии. Также возможно создавать вирусы, которые могут заражать людей и другие многоклеточные организмы. Это вызывает крайнюю обеспокоенность, поскольку значительно облегчает террористическим группам разработку множества вирусов.

Еще один риск — автономное смертоносное оружие — боевые роботы, которые уже становятся реальностью. И все основные страны-производители оружия работают в этом направлении.

Еще одна краткосрочная угроза — создание фейковых видеороликов для влияния на результаты выборов.

А ещё есть так называемые непреднамеренные или случайные потери. Компаниям, чтобы окупить свои инвестиции, придётся заменить множество рабочих мест системами на базе ИИ. А это приведёт к безработице. Одновременно произойдут две вещи: большое число людей потеряет работу и будет нуждаться в поддержке, а правительства потеряют часть налоговых поступлений, потому что эти люди больше не будут платить налоги. Как недавно отметил Билл Гейтс, единственное решение этой проблемы — обложить ИИ налогом. Однако влиятельные деятели в технологическом секторе, разрабатывающие ИИ, категорически против налогов, особенно налогов, которые применяются к ним. В результате возникнет серьёзная проблема, которая может привести к социальному хаосу: люди останутся без работы, а у правительств не будет достаточно ресурсов для их поддержки.

Вдобавок ко всему этому, существует также экзистенциальная угроза, связанная с опасностью того, что ИИ станет умнее людей, будет обладать независимыми намерениями и в итоге будет доминировать над людьми. Всё это может сделать нас ненужными. Мы можем превратиться в крепостных, которые просто обслуживают электростанции.

— Возможно ли, чтобы искусственный интеллект стал умнее нас?

— Безусловно. Во многих областях он уже способен на это. Очевидно, что искусственный интеллект уже знает гораздо больше, чем вы, верно? Он может довольно хорошо ответить почти на любой вопрос. В математике он уже намного сильнее почти большинства математиков и постоянно совершенствуется. Так что да, он определенно станет умнее людей.

Почти все эксперты сходятся во мнении, что мы достигнем стадии сверхинтеллекта. Под сверхинтеллектом мы подразумеваем систему, которая умнее человека практически в любой умственной задаче. Многие считают, что мы достигнем этой точки в течение следующих десяти лет.

Так что, у нас будет сверхинтеллект. Он будет намного умнее нас, и нам нужно понять, как его спроектировать так, чтобы мы могли делить с ним нашу планету. Сейчас мы все еще создаем его сами. Но сейчас идет процесс, в котором большинство новых разработок в области искусственного интеллекта уже реализуются самим искусственным интеллектом. Большая часть кода для новых систем пишется не людьми, а искусственным интеллектом. Таким образом, мы вступаем в фазу, называемую рекурсивным самосовершенствованием, когда искусственный интеллект совершенствует сам себя. Это вызывает серьезную обеспокоенность, поскольку этот процесс может происходить очень быстро.

— В последнее время появились сообщения о том, что агенты ИИ нацелены на правительственные системы. Некоторые правительства сейчас рассматривают возможность введения законов и правил для снижения этих рисков. Как Вы думаете, могли бы такие правила помочь?

— Очевидно, что регулирование необходимо. Если я хочу создать новый препарат, я не могу просто произвести его и выпустить на рынок. В США я должен убедить Управление по санитарному надзору за качеством пищевых продуктов и медикаментов (FDA) в том, что препарат безопасен или что его польза перевешивает риски. И я должен предоставить доказательства в поддержку этого.

Тот же принцип должен применяться и к компаниям, занимающимся ИИ. Они должны доказать статистическими данными, что новый чат-бот безопасен. Что он не будет делать расистских заявлений, учить людей изготавливать бомбы или создавать собственных агентов для атак на другие компании. По крайней мере, должен существовать орган, подобный FDA, который не позволит выпустить чат-бота до получения его одобрения.

Сегодня даже приготовление сэндвичей регулируется гораздо строже. Если я делаю сэндвич, я должен соблюдать множество правил. Но если я создам искусственный интеллект, способный уничтожить человечество, то никакого регулирования не потребуется. Это безумие.

Идея саморегулирования компаний также ошибочна. Представьте, что вы говорите энергетическим компаниям: «Вы не должны загрязнять окружающую среду, но мы позволим вам контролировать свою деятельность». Или говорите табачным компаниям: «Вы должны предупреждать людей о том, что ваш продукт может вызывать рак, но мы позволим вам самим решать, как это делать». Всем понятно, что это неразумный подход.

Единственная причина отсутствия подобного регулирования в области искусственного интеллекта заключается в том, что очень богатые люди контролируют американских политиков.

— Какую ответственность, по-Вашему, должны нести ученые, работающие над искусственным интеллектом?

— Как человек, участвовавший в разработке этой технологии, я считаю своим долгом предупредить людей о ее опасностях. Нельзя просто создать ее, заработать денег, уйти и наслаждаться жизнью. Я думаю, нам нужно сказать людям: «Посмотрите, это действительно опасно». И если мы не предпримем шаги для контроля этих опасностей, это может стать концом человечества. Я думаю, мы, вероятно, выживем, но только если предпримем шаги для контроля этих опасностей.

— Как в научно-фантастических книгах, где мы видим мир после роботов?

— Да. Раньше люди говорили, что это просто научная фантастика. Но после нападения на Hugging Face  люди поняли, что это уже не научная фантастика. Мы словно в самом начале научно-фантастического фильма.

И нам нужно уметь создать правильный финал.

— И можно ли сказать, что потенциальные преимущества искусственного интеллекта могут перевесить его разрушительный потенциал?

— В отличие от ядерного оружия искусственный интеллект может принести много пользы здравоохранению, образованию, повысить эффективность промышленности и освободить людей от скучной работы. Он значительно повысит производительность во всех областях. Конечно, это не произойдет мгновенно. Потребуются годы.

Мы не хотим отказываться от искусственного интеллекта, но мы не сможем наслаждаться его преимуществами, если не будем учитывать связанные с ним риски.

Перед нами два варианта будущего. В одном случае мы развиваем искусственный интеллект, не уделяя достаточного внимания опасностям, и он нас уничтожает. В другом случае мы продолжаем его развивать, прилагая огромные усилия для управления рисками, и тогда нас ждет прекрасное будущее, и искусственный интеллект станет позитивной силой.

— Вас часто называют «крестным отцом искусственного интеллекта», тогда как сегодня многие всё чаще воспринимают его как угрозу, опасаясь потери рабочих мест и потенциальных опасностей. Как Вы относитесь к этому званию в реальности, когда многие люди обеспокоены технологией, в разработке которой Вы сами принимали участие?

— Пока я знаю, что призываю людей искать решения для предотвращения социального хаоса, когда искусственный интеллект начнёт лишать людей работы, и для предотвращения доминирования ИИ над людьми, это звание для меня приемлемо. Но многие, кто продолжает разрабатывать искусственный интеллект, просто хотят заработать много денег, развивая его как можно быстрее и не задумываясь о рисках. И я считаю это очень плохим.

— И последний вопрос: что Вы считаете величайшим научным достижением XXI века?

— Чат-боты.

***

Репортаж «Арменпресс» о фестивале STARMUS осуществляется при поддержке команды «Телеком Армения».