В интервью «Голосу Армении» доктор физико-математических наук, член-корреспондент НАН РА Артур Ишханян говорит об искусственном интеллекте, цифровом колониализме, новой форме власти и глобальном контроле.
— Г-н Ишханян, некоторое время назад мы с вами уже говорили об искусственном интеллекте, но потом вы пришли к выводу, что это не просто прорывная технология, а новая форма власти. На чем основано это мнение?
— Дело в том, что все технологии всегда связаны с политикой и структурами власти. И каждая технологическая революция меняет не только производство, но и организацию общества. Искусственный интеллект постепенно становится инфраструктурой управления. Алгоритмы влияют на образование, СМИ, финансовые системы, рынок труда, государственное управление, информационные потоки, определяют доступность той или иной информации, темы, которые будут обсуждаться обществом и модели поведения, которые будут считаться нормальными. Раньше власть ассоциировалась с государством, армией, территорией или промышленностью. Сегодня все большее значение приобретают данные, вычислительные мощности и цифровые платформы. XXI век становится эпохой инфраструктурной власти. К этому выводу я пришел, когда стало понятно, что алгоритмы уже влияют не только на информацию, но и на само человеческое восприятие. Меня всегда интересовали вопросы власти, культуры, памяти, идентичности. Я исследовал вопросы цифрового колониализма, культурной памяти, механизмы символической власти и понял, что системы ИИ начинают играть роль инфраструктур, формирующих среду человеческого существования. Речь идет уже не просто о технологиях как инструментах, а системах, которые организуют коммуникацию, культуру, даже формы мышления. Мне стало ясно, что будущее человечества определяется не технологиями, а вопросами власти, независимости и свободы людей.
— То есть вас тревожит происходящее или все еще есть основания для оптимизма?
— Я не считаю, что технологии автоматически ведут человечество к катастрофе. Но беспокоит скорость, с которой цифровые инфраструктуры концентрируют власть. Этические механизмы не всегда формируются параллельно с технологическими скачками. Мы уже создали системы, способные влиять на коллективное восприятие, политические процессы и поведение миллиардов людей. Но философски, политически и этически человечество еще не осознало масштаб трансформации. Уже сегодня технологическое развитие опережает способность общества понимать последствия собственных достижений.
— Что вы называете инфраструктурной властью?
— Речь идет о власти, встроенной в сами системы, внутри которых живет и действует человек. Раньше государство принимало решения через законы, институты, бюрократию. Сегодня решения все чаще осуществляется через архитектуру цифровых платформ. Алгоритмы определяют доступность контента, исчезновение информации, то, какой аккаунт будет продвигаться, а какой блокироваться. И часто это происходит автоматически, без участия человека. Власть начинает функционировать через организацию цифровой среды.
— Какой смысл вы вкладываете в понятие «цифровой колониализм»?
— Дело в том, что современные цифровые отношения очень напоминают формы колониальной зависимости прошлого. Но в отличие от классического колониализма, современный цифровой колониализм действует через контроль над данными, платформами, вычислительными инфраструктурами и алгоритмами. Современные империи строятся вокруг серверов, облачных систем и искусственного интеллекта. Уже сегодня несколько глобальных платформ получили колоссальную власть над информацией, коммуникацией и поведением миллиардов людей. Они знают, что человек читает, чего боится, как эмоционально реагирует, какие решения принимает. Это беспрецедентная концентрация власти в истории человечества.
— То есть искусственный интеллект становится инструментом контроля?
— Да, но речь уже идет не о примитивном тотальном контроле в духе антиутопий XX века. Современные системы работают более тонко. Алгоритмы не обязательно запрещают, а формируют среду, в которой человек принимает решения и даже не замечает, насколько сильно его цифровая реальность организована алгоритмами. А это более сильная власть.
— Какое место в этом процессе занимает Армения?
— Для малых стран это особенно серьезная проблема. Государство, которое не создает собственные цифровые инфраструктуры, начинает зависеть от внешних платформ не только технологически, но и культурно, информационно и политически. Сегодня Армения находится на очень важном историческом этапе. С одной стороны, искусственный интеллект открывает огромные возможности — для науки, медицины, образования, государственного управления, языковых технологий, однако возникает вопрос: мы станем субъектом цифровой эпохи или ее периферией?
— Но может ли маленькая страна конкурировать с технологическими гигантами?
— Думаю, не стоит так ставить вопрос. Важна не попытка создать армянский Google или армянский OpenAI, а способность сохранить субъектность в цифровую эпоху. Сегодня зависимость чаще формируется не через военную оккупацию, а через инфраструктурную зависимость. Страна может формально сохранять политический суверенитет, но одновременно зависеть от внешних цифровых систем практически во всех сферах — от коммуникации до информационной безопасности. И в нашем сложном геополитическом регионе это особенно важно. Формируется глобальное технологическое соперничество между США, Китаем и, в определенной степени, Евросоюзом. Искусственный интеллект становится частью новой геополитики, и государства, не обладающие собственными технологическими возможностями, рискуют оказаться не субъектами, а объектами этой борьбы.
— То есть будущие конфликты будут связаны уже не только с армиями и территориями?
— Происходит исторический переход от геополитики территории к геополитике инфраструктур. Контроль над полупроводниками, вычислительными мощностями, облачными системами, спутниковыми сетями и AI-инфраструктурами постепенно становится не менее важным, чем контроль над нефтью или транспортными коридорами. Поэтому идет жесткое противостояние вокруг технологий между США и Китаем. Искусственный интеллект становится частью глобальной борьбы за власть. Причем речь идет не только об экономике или армии, а о контроле над будущими моделями общества.
— Вы много пишете об армянском языке и искусственном интеллекте. Насколько это серьезная проблема?
— Очень серьезная. Большинство глобальных AI-систем плохо работают с армянским языком. Особенно с западноармянским. Но проблема глубже, чем качество перевода или распознавания речи. Если язык отсутствует в цифровых инфраструктурах, он начинает исчезать из пространства будущего. Цифровая среда становится одной из главных форм существования культуры. Если язык плохо представлен в системах ИИ, он начинает проигрывать конкуренцию с крупными языками. Возникает то, что можно назвать алгоритмической невидимостью. Алгоритмы всегда работают с тем, что лучше представлено в данных. Крупные языки получают большее цифровое присутствие, а малые культуры оказываются на периферии цифрового мира. Поэтому борьба за культурное сохранение сегодня становится одновременно и борьбой за цифровое присутствие.
— Одна из ваших работ посвящена цифровому надзору над молодежью. Почему вас заинтересовала эта тема?
— Дети и подростки первыми начинают жить внутри алгоритмизированной среды. Современные цифровые платформы все чаще превращаются в системы непрерывного наблюдения. Школьные платформы, образовательные приложения, социальные сети, системы аналитики поведения — все это создает новую модель человеческого развития. Ребенок привыкает к тому, что любое действие фиксируется, анализируется и оценивается. А это изменение среды, в которой формируется личность. Человек постепенно адаптируется к алгоритмическому наблюдению. Алгоритмы начинают определять, какое поведение считается нормальным, а какое — отклонением. Но человеческое развитие невозможно без пространства ошибки, неопределенности, внутренней свободы и эксперимента.
— И все-таки, технологии делают жизнь удобнее, а деятельность эффективнее.
— Искусственный интеллект может радикально изменить медицину, научные исследования, образование, доступ к знаниям. Но технологии никогда не бывают нейтральными. Процесс технологического развития, в том числе ИИ, остановить невозможно. Но возникает чрезвычайно важный вопрос — кто будет контролировать инфраструктуры ИИ и в чьих интересах они будут функционировать.
— Некоторое время назад вы неожиданно стали заниматься исследованием советского феминизма и личности Валентины Терешковой. Есть ли какая-то связь между этими исследованиями и вашими работами по ИИ?
— Связь есть и очень глубокая. Власть создает символы прогресса, которые одновременно скрывают структурные противоречия. Терешкова стала символом женской эмансипации. Однако жизнь миллионов женщин продолжалась в условиях жестких социальных и патриархальных ограничений. Аналогичная ситуация складывается с передовыми технологиями. Демонстрируются цифровой прогресс, свобода, инновации и глобальная связь, но одновременно усиливаются новые формы контроля, зависимости и концентрации власти. То есть технологический прогресс не освобождает человека. Очевидна противоположная тенденция.
— То есть особую актуальность приобретает вопрос сохранения человеческой независимости?
— Мы вступаем в эпоху, где алгоритмы активно участвуют в организации социальной реальности. Возникает риск того, что человек постепенно утратит способность самостоятельно ориентироваться в мире. Поэтому сегодня особенно важным становится сохранение культуры, гуманитарного знания и критического мышления. Удивительно, но чем более технологичным становится мир, тем важнее становится вопрос о том, что значит быть человеком. То есть в технологичном мире особую важность приобретают гуманитарные знания. Ведь технологии не отвечают на вопросы: ради чего существует общество? Что такое свобода? Что такое человеческое достоинство? Где границы допустимого контроля? Алгоритмы не способны определить смысл человеческого существования. Поэтому сегодня вопрос ИИ — это вопрос будущего человеческой цивилизации. Сам по себе искусственный интеллект — это не добро и не зло. Все зависит от того, какие политические, культурные и этические принципы будут встроены в цифровую инфраструктуру будущего. Если технологии будут использоваться исключительно для извлечения прибыли, тотального наблюдения и концентрации власти, то мы на крайне опасном пути. Но если удастся создать системы, основанные на прозрачности, ответственности, культурном многообразии и человеческом достоинстве, искусственный интеллект действительно может стать инструментом развития. Это вопрос цивилизационный. Поэтому особую актуальность приобретает вопрос: сумеет ли человек сохранить свободу и независимость в мире, где все больше решений принимают алгоритмы?
Гаянэ Сармакешян, "Голос Армении"