ИИ - это всего лишь своеобразный экзоскелет, а скелет не может принимать решения за людей: академик Арутюн Аветисян

23 мин. чтения

Арутюн Аветисян, учёный армянского происхождения, проживающий в России, считает, что опасения по поводу того, что искусственный интеллект может полностью заменить людей совершенно напрасны.

По его мнению, этого не произойдёт, потому что в действительности там нет интеллекта в истинном смысле этого слова. Искусственный интеллект — это всего лишь своеобразный экзоскелет, а скелет не может принимать решения вместо человека.

Арутюн Аветисян, российский математик, армянин по национальности, специалист в области системного программирования, академик Российской академии наук (РАН), заведующий кафедрами системного программирования факультета вычислительной математики и кибернетики Московского государственного университета им. М. В. Ломоносова, факультета управления и прикладной математики Московского института физики и техники и факультета информатики Высшей школы экономики, директор Института системного программирования им. В. П. Иванникова, вице-президент Российской академии наук, иностранный член Национальной академии наук Армении говорил об этом в эксклюзивном интервью, данном агентству “Арменпресс”.

— Как Вы считаете, искусственный интеллект - это вызов или источник новых возможностей?

— Как и всегда, вызов — это также и новая возможность. Если мы не примем этот вызов, он станет разрушительным. А если примем, он превратится в возможность. Поэтому необходимо четко понимать, что это за технология, как она развивается, и строить будущее на этой научной основе. В противном случае мы будем подобны людям, строящим дом на зыбучих песках. В этом случае все может внезапно рухнуть, и вместо комфорта и благополучия мы получим повсеместный распад. И не дай Бог, если эта ситуация коснется атомной электростанции или другой жизненно важной инфраструктуры.

— Полагаю, что по крайней мере для Вас не осталось никаких темных уголков или непонятных вопросов относительно ИИ. Насколько он искусственный, и насколько — разумный?

— На самом деле, все просто. Существует четкий водораздел, и уже ясно, что это не “разум”, ему не хватает субъективности, то есть способности действовать независимо, это также понятно, причем зафиксировано на международном уровне. За этим уже царит большая “серая зона”, туман.

Возьмем, к примеру, образование: почему бы не использовать ИИ? Кажется, это хорошая идея. Я сам за его использование. Но если это делать неразумно, то, например, наряду с математикой, ребенок может усвоить и отрицательные моральные ценности. А общество основано именно на морали и моральных ценностях, нарушение которых может иметь ужасные и необратимые последствия. Такие примеры есть в истории человечества. Так что моральные ценности важны для любого общества.

Известный британский учёный Эдвард Тейлор, изучив различные человеческие сообщества, пришёл к выводу, что на Земле нет ни одного общества, даже самой малочисленной группы, живущей в глубине амазонских джунглей, в котором не существовало бы табу, запретов и других подобных понятий. Иными словами, всегда существуют определённые нормы поведения, которые проявляются по-разному не только в обществах, но и в разных сферах человеческой жизни. Если мы не сможем внедрить их в искусственный интеллект, это может просто привести к определённым негативным последствиям. Не только в плане кибербезопасности, но и в основных человеческих отношениях, потому что мы начнем искренне верить, что все в жизни устроено именно так, в то время как остальная часть общества не будет разделять это понимание.

— В этом контексте кибербезопасность приобретает дополнительное значение. Стало ли человечество более уязвимым, чем прежде, или все еще возможно эффективно защитить себя от виртуальных атак, которые имеют вполне реальные последствия и опасные проявления в повседневной жизни?

— Инструменты кибербезопасности и их анализ — это наша работа. По сути, с появлением ИИ принципиально ничего нового не появилось. ИИ просто выявляет пробелы в системе. Соответственно, проблема здесь связана со скоростью реагирования. Необходимо будет изменить подходы, использовать тот же искусственный интеллект, чтобы он мог защищать и реагировать. Однако это также выявило фундаментальную проблему. Наши системы в основном спроектированы таким образом, что их можно взломать. Особенно актуальна эффективная защита жизненно важных инфраструктур. И это возможно. Например, в системе управления авиацией за 50 лет не было сбоев, был только человеческий фактор. И не было сбоев программного обеспечения, потому что были установлены строгие требования к сертификации и проверке. Этот опыт следует распространить, а также повысить уровень компьютерной грамотности в обществе. В эпоху ИИ эта проблема действительно актуальна, но и способы ее решения определенны.

— Не кажется ли Вам, что повсеместная одержимость цифровизацией может привести к большей изолированности общества, постепенно отрывая его от реальности, заставляя жить в воображаемом, вымышленном мире?

— Конечно, цифровизация может к этому привести. Существуют целые философские направления, утверждающие, что мы уже виртуальны, поскольку каждый человек предпочитает жить в своей воображаемой реальности и оценивать происходящие вокруг события с этой точки зрения. Можно говорить что угодно на эту тему, но факт в том, что мы состоим из плоти и крови и используем эти технологии. И как бы мы не “виртуализировались”, у нас есть и реальные потребности. Сегодня миллионы людей живут вполне комфортно, предпочитая редко выходить из дома. У них есть деньги, они заказывают еду и другие необходимые товары онлайн и развлекаются весь день напролёт. Более того, они и зарабатывают себе на жизнь онлайн. Это тоже виртуальный мир, яркое проявление виртуальной жизни, но даже в этом случае мы имеем дело с физическим человеком, у которого исключительно материальные потребности. Но этот мир и такая жизнь основаны на реальных вещах — работе электроники и центров обработки данных, отказ которых немедленно возвращает людей в невиртуальную реальность. Ведь людям нужны друзья и в реальном мире. То есть, не всё так просто.

Ещё несколько десятилетий назад говорили, что скоро виртуальная реальность охватит все сферы: люди будут носить специальные очки и, используя соответствующие инструкции, смогут выполнять самые сложные действия и работу, требующую высокой квалификации. 2026 год уже подходит к концу, но эта технология, похоже, не получила массового распространения. То есть степень применения и распространения технологий определяется потребителями.

— Почему в последнее время все больше становится разговоров об ограничении использования ИИ?

— Вовсе не потому, что боятся, что ИИ станет умнее и захватит планету Земля. Говорится это, потому что понятно, что его широкомасштабное внедрение без надлежащего управления рисками приведет к тому, что все вокруг станет уязвимым. А чтобы этого избежать, необходимы дополнительные правила, которые позволят нам по-другому организовывать процессы. Такое понимание позволит нам не бояться искусственного интеллекта, а реально использовать его в повседневной жизни. Вносить вклад в образование детей, восполняя нехватку учителей. Это может дать лучшим врачам возможность помогать большему числу пациентов, эффективно повышая эффективность их работы в сто раз. Можете себе представить, насколько это будет невообразимо? Раньше это было невозможно, и даже сегодня это кажется скорее фантастикой.

Есть опасение, что ИИ заменит людей, потому что начнет решать творческие задачи. Этого не произойдет, потому что в действительности там нет интеллекта в самом истинном смысле этого слова. ИИ — это всего лишь своеобразный экзоскелет. А скелет не может принимать решения за человека. Конечно, можно научить причинять вред конкретному человеку, но не более того. В этом и вся проблема. Это также ответ на один из ваших предыдущих вопросов.

— Не слишком ли мы идеализируем ИИ?

— Особенно сейчас, когда робототехника и энергетика начинают совершенствоваться и широко использоваться на основе ИИ, существует реальная опасность того, что мы начнем доверять роботам больше, чем иногда даже самим себе. Уже формируется психологическая зависимость: люди начинают вступать с ними в диалог, например, задавать вопросы о лечении на ChatGPT. Это нормально, если человек, ведущий себя таким образом, — разумный человек, понимающий, что это не полное излечение. Однако в случае серьезных заболеваний это явно неправильный подход. Это, конечно, не означает, что ИИ не следует использовать в здравоохранении — речь идет о том, что врач обязательно должен участвовать в этом процессе.

— То есть, ИИ — это не замена, а вспомогательный инструмент?

— Это вспомогательный инструмент, но он уже настолько активно используется, что иногда может показаться, будто это основной инструмент. Но на самом деле это не так. Это всего лишь иллюзия. Конечно, он может отправлять электронные письма или выполнять другие задачи за вас, но если вы доверите ему создание и управление вашим бизнесом и даже уполномочите его на осуществление денежных переводов, то, скорее всего, рано или поздно вы обанкротитесь.

— А что, если ИИ вдруг решит запустить ядерные ракеты?

— Я думаю, более того, я уверен, что люди никогда не доверят машинам управление такими вопросами. Это исключено. Окончательное решение всегда будут принимать люди. Только совершенно ненормальные люди могут придумать что-то иное. Однако в условиях войны, когда что-то уже летит в вашу сторону, возможно, процесс запуска этих ракет, чтобы быстрее отреагировать, будет перенаправлен на искусственный интеллект. Здесь все понятно — на войне, как на войне.

А в гражданской сфере требования безопасности при использовании таких же дронов значительно строже. Особенно в городских условиях.

В целом, я за внедрение ИИ в различные сферы жизни, но это нельзя делать безрассудно, потому что, повторяю, это сделает нашу инфраструктуру уязвимой. Это относится не только к искусственному интеллекту, но и ко всему процессу цифровизации. Нельзя просто все оцифровать, не проанализировав предварительно возможные последствия.

— Есть ли и в этом серьёзные риски?

— Приведу всего лишь один пример: в Швеции когда-то хотели полностью перейти на безналичные платежи, просто чтобы полностью исключить наличные из обращения. Но после масштабных отключений электроэнергии в Южной Европе в прошлом году шведское правительство решило отказаться от этой идеи, чтобы у людей была возможность совершать сделки в чрезвычайных ситуациях.

Цифровизация — это переход к другой реальности, поэтому мы должны действовать осторожно, учитывая кибербезопасность и психологические факторы, влияющие на нас.

— Если это не секрет, не могли бы Вы рассказать, над чем Вы сейчас работаете и какую роль в Вашей работе играет искусственный интеллект?

— Мы системные программисты. Мы занимаемся разработкой систем реального времени, операционных систем и защищенного программного обеспечения, включая создание надежных и безопасных инструментов искусственного интеллекта. Мы являемся авторитетным центром искусственного интеллекта в России. Наши разработки активно используются в медицине уже 10 лет, и в последние годы показывают хорошие результаты. Относительно простые разработки связаны с анализом электрокардиографических данных, диагностикой кожных заболеваний, в частности, меланомы.

Есть и более сложные проекты: совместно с академиком Евгением Шляхто мы создаем большую модель — специализированный инструмент, который будет поддерживать врачей во время клинических консультаций и обсуждений.

Аналогично, мы разрабатываем решения для повышения приверженности пациентов лечению, направленные на соблюдение медицинских инструкций во время лечения и улучшение взаимодействия с врачами. Наш опыт показывает, что это долгий, но правильный, осуществимый и работающий путь.

В целом, мы постепенно включаем в рассмотрение прикладные области, поскольку без надлежащего системного программного обеспечения невозможно создать полноценное приложение. Мы продвигаем прогрессивное применение искусственного интеллекта в науке и, через науку, его быстрое внедрение в промышленность, создавая общий центр, который позволит максимально гармонизировать объединение усилий и консолидировать экспертный потенциал всей страны.

Есть и другие прикладные области – физика, различные направления химии, в которых работа ведется совместно, а не в рамках отдельных проектов, поскольку это возможно только совместно – для сбора данных, создания моделей, которые уже превращаются в продукты в конкретном производстве и внедряются. Совершенно очевидно, что адаптировать готовый продукт для любой отрасли проще, чем создавать его с нуля. Цель состоит в разработке фундаментальных моделей не только в России, но и совместно, в глобальном масштабе, и размещении их в надежных хранилищах искусственного интеллекта. Таким образом, даже самые маленькие государства получат доступ к этим разработкам, не опасаясь потери независимости. Это выгодно для России, которая также обеспечит свою безопасность в случае совместной разработки. Мы не намерены делать кого-либо зависимым в этом отношении.

— Возможен ли так называемый национальный искусственный интеллект?

— Почему? К этому вопросу следует подойти с несколько иной точки зрения. Если то, о чём я говорил в предыдущем ответе, будет сделано и выбран этот путь развития, то на основе этих решений можно будет создать безопасные, суверенные и национальные модели ИИ. Почему? Чтобы гарантировать, что никто не внедрил что-то в систему в последний момент. С этим нужно постоянно иметь дело. Это следует делать не отдельно от того, что я сказал, а согласованно. Это правильный подход, потому что работы слишком много. Ни у кого, ни у американцев, ни у европейцев, нет достаточных ресурсов, чтобы справиться со всем сразу. Необходимо наладить обратную связь со всех секторов и использовать всё это для улучшения систем. Мы уже видели это на примере больших моделей. И оказывается, что модели с открытым исходным кодом сейчас вполне конкурентоспособны и совсем неплохи. Однако превращение их в готовый продукт уже требует специального опыта и знаний.

Для этого необходимо, чтобы в самой Армении были люди, которые понимают это и могут это сделать. Такие люди есть в России. Но основную работу можно выполнять совместно, в рамках открытых моделей. И речь идёт не только о крупных моделях. Сейчас появится огромное количество специализированных моделей. Возможно, это самое интересное, что ждёт нас в ближайшие пять лет. Представьте себе, что вы запускаете сложную модель на своём ноутбуке, адаптированную к вашим индивидуальным потребностям — медицинским, инженерным и т. д. Именно это направление необходимо развивать вместе.

— Совместная работа подразумевает сотрудничество. Вы сотрудничаете с коллегами Армении?

— Конечно. Мы сотрудничаем с Институтом информатики. Я сам выпускник Ереванского государственного университета, и сейчас мы обсуждаем возможности сотрудничества с ректором моего родного университета. У меня есть лаборатория в Российско-Армянском университете, где работает команда. Мы гордимся тем, что разработали уникальную для Армении технологию, которая является лучшей в мире, и она уже начинает использоваться внутри страны. Кстати, это также вызов в области ИИ, поскольку крупные корпорации не поддерживают разработку моделей на сотнях малоресурсных языков, считая это экономически невыгодным. Это направление можно превратить в национальную инициативу при поддержке государства, чтобы это был не бизнес, основанный на продаже лицензий друг другу, а проект, продвигаемый научным сообществом. Там все можно эффективно рассчитать. Тогда предприниматели смогут превратить эти разработки в продукты и инвестировать в них. Или государство само может инвестировать, в сотрудничестве с бизнесом или самостоятельно. Здесь нам нужны такие модели, а не превращение всего в рынок. Это можно и нужно комбинировать.

Это также обеспечит безопасность самого бизнеса, который может опираться на научные разработки, созданные в стране. А для этого необходимо готовить кадры. Кадры решают всё. Но как готовить, если нет реальных инвестиций? Всё взаимосвязано. Без гармоничной работы государства, науки и бизнеса невозможно обеспечить развитие. Это относится к любой стране.

Мы живём в мире, где нет возможности решать проблемы чудесами. Однако, если двигаться в правильном направлении, то по пути вы будете развиваться вместе со всеми и приобретать новые знания и навыки.

— Как Вы думаете, в этом плане Армения движется в правильном направлении?

— Исторически Армения всегда была одним из пионеров науки и инноваций. В советский период здесь были созданы первые вычислительные устройства. А в постсоветский период здесь сформировался целый сектор аутсорсинга, что подразумевает концентрацию специалистов в крупных специализированных компаниях, выполняющих определенные функции для компании-заказчика или решающих соответствующие бизнес-задачи. Это способствовало сохранению человеческих ресурсов. Другими словами, технологический сектор в Армении традиционно находится на достаточно высоком уровне. Наука тоже не исчезла. Все это обрисовывает довольно оптимистичную перспективу. Это не означает, что мы должны смотреть на проблемы сквозь пальцы и думать, что только крупные инвестиции могут обеспечить развитие. Это не так. Необходимо выработать спокойные, взвешенные и, самое главное, правильные подходы. Нам нужно создать почву не для одной крупной компании, а для формирования целой экосистемы различных компаний. Роль государства заключается в содействии созданию этой экосистемы, среды, в которой бизнес будет заинтересован в инвестировании в область науки.

Я считаю прекрасным и совершенно правильным подходом то, что в Армении выделяются значительные ресурсы на реализацию грантовых программ, а также на возвращение на родину магистров и аспирантов.

Русский English Հայերեն