От ИИ до «роботов-убийц»: Генсек ООН призвал срочно выработать глобальные правила регулирования искусственного интеллекта
Генеральный секретарь ООН Антониу Гутерриш в понедельник призвал к разработке всеобъемлющей глобальной системы регулирования искусственного интеллекта (ИИ). Он предупредил, что все более мощные технологии, изначально созданные для гражданских целей, начинают использоваться на поле боя, где «роботы-убийцы» уже стали реальностью.
Выступая на открытии первого Глобального диалога ООН по вопросам управления искусственным интеллектом в Женеве, Генсек также подчеркнул необходимость обеспечить доступ к технологиям для миллиардов людей, которые пока не пользуются преимуществами цифровой революции.
По его словам, любое будущее международное соглашение должно «заслуживать доверия всего мира» и ставить безопасность людей, особенно детей, во главу угла, защищая их от манипуляций и злоупотреблений с использованием цифровых технологий.
К призыву присоединилась Председатель 80-й сессии Генеральной Ассамблеи ООН Анналена Бербок. Она призвала к коллективным действиям против «мрачной стороны» искусственного интеллекта, напомнив, что, по имеющимся данным, 99 процентов дипфейков имеют сексуальный характер, а 96 процентов таких материалов направлены против женщин и девочек.
Сократить цифровой разрыв
Гутерриш назвал еще несколько ключевых направлений будущего регулирования. Среди них – гарантированный доступ развивающихся стран к технологиям искусственного интеллекта, а также перевод всех центров обработки данных, обслуживающих ИИ, на возобновляемые источники энергии к 2030 году.
По словам главы ООН, искусственный интеллект «находится в самом центре нашего общего будущего», однако принимать решения и нести ответственность за них должны люди.
Международный диалог
За три года, прошедшие с момента начала стремительного распространения генеративного ИИ, эта технология оказала революционное влияние на экономику и общество – как положительное, так и отрицательное.
ООН в последние годы играет ведущую роль в международных усилиях по выработке механизмов регулирования ИИ. Важным этапом этого процесса является первый Глобальный диалог по вопросам управления искусственным интеллектом, открывшийся в понедельник в Женеве.
В нем принимают участие представители технологических компаний, научного сообщества и гражданского общества, а также эксперты и деятели культуры. Они обсуждают, как обеспечить развитие технологий с учетом интересов человечества. Следующий Глобальный диалог запланирован на май 2027 года в Нью-Йорке.
«Искусственный интеллект слишком важен, чтобы его развитие определяла лишь небольшая группа игроков. Нам необходим глобальный, инклюзивный и основанный на научных данных диалог», – заявил Специальный посланник Генсека ООН по цифровым и новым технологиям Амандип Сингх Гилл.
Возможности ИИ растут быстрее понимания их последствий
Сопредседатель Независимой международной научной группы по искусственному интеллекту Йошуа Бенджио отметил, что пока нет никаких признаков замедления развития технологии.
«Передовые модели искусственного интеллекта уже способны вводить людей в заблуждение и понимать, когда их тестируют», – сказал он.
По его словам, уровень когнитивный возможностей ИИ продолжит расти.
«Это звучит как научная фантастика, но такая перспектива вполне реальна. Она способна изменить мир таким образом, который мы пока не понимаем, и изменить глобальный баланс сил так, что это требует самого пристального внимания», – предупредил ученый.
«Великий уравнитель»
По словам Генерального секретаря, при ответственном использовании и широком доступе ИИ способен «сократить десятилетия, необходимые для развития, до нескольких лет» и стать «великим уравнителем XXI века». Однако для этого технологии должны проходить тщательную проверку безопасности, а ответственность за их применение должна быть четко определена.
«Когда страны договариваются о единых подходах к тестированию систем, оценке рисков и распределению ответственности, безопасность становится неотъемлемой частью самой технологии. Когда этого не происходит, возникает мозаика несовместимых правил, которая увеличивает расходы, разделяет мир и не защищает никого», – подчеркнул Гутерриш.
Прежде всего – безопасность детей
Одним из главных приоритетов будущего соглашения Генеральный секретарь назвал защиту детей и предложил государствам принять Глобальное обязательство по безопасности детей в сфере искусственного интеллекта.
«Ни один ребенок не должен становиться подопытным кроликом для нерегулируемого искусственного интеллекта, – заявил он. – Мы не допускаем использования лекарств, пока их безопасность не доказана. Мы проверяем каждую игрушку. Однако искусственный интеллект уже вошел в жизнь детей – учебу, дружбу и самые личные вопросы – еще до того, как кто-либо задался вопросом, какое влияние он окажет на них».
Согласно инициативе ООН, разработчики ИИ должны будут доказать, что их системы безопасны для детей. Ни одна компания не должна выпускать продукт, доступный детям, без специальных тестов и независимого контроля. Предлагается также установить принцип нулевой терпимости к созданию искусственным интеллектом изображений сексуального насилия над детьми. Все подобные материалы должны автоматически выявляться, передаваться компетентным органам и удаляться.
Кроме того, если система обнаруживает признаки психологического неблагополучия ребенка, она должна прекратить взаимодействие и направить его к реальным специалистам.
«Если ребенку причинен вред, ответом никогда не должно быть: “Так решил алгоритм”», – подчеркнул Генеральный секретарь.
Права человека и прозрачность
Еще одним ключевым принципом будущего регулирования глава ООН назвал соблюдение прав человека.
Читайте также:
ОБЪЯСНЯЕМ | Развитие ИИ: почему миру нужно действовать сейчас
«Искусственный интеллект никогда не должен лишать людей достоинства или усиливать дискриминацию. В вопросах правосудия, здравоохранения или работы правоохранительных органов машины могут помогать, но решения и ответственность всегда должны оставаться за человеком», – заявил он.
Государственные инвестиции пока несопоставимы с частными
Гутерриш также призвал увеличить государственные инвестиции в развитие ИИ. По его словам, объем частных вложений в инфраструктуру искусственного интеллекта сегодня составляет около 500 триллионов долларов, тогда как государственная поддержка развивающихся стран в этой сфере остается «каплей в море».
Чтобы сократить этот разрыв, Генсек объявил, что более 20 стран уже поддержали инициативу ООН по созданию Глобальной сети обмена знаниями и сотрудничества для развития потенциала в сфере ИИ.
«Мы не можем допустить, чтобы цифровой разрыв превратился в разрыв в области ИИ, а затем – в разрыв в уровне развития, безопасности и суверенитета», – подчеркнул он.
Экологический след ИИ
Генеральный секретарь вновь призвал крупнейшие компании публиковать информацию об экологическом следе своих систем ИИ – потреблении электроэнергии, воды и земельных ресурсов – и обеспечить перевод всех дата-центров на возобновляемые источники энергии к 2030 году.
«Искусственный интеллект может казаться нематериальным, но его экологический след вполне реален», – сказал Гутерриш.
По его словам, уже к 2030 году центры обработки данных могут потреблять больше электроэнергии, чем все страны мира, кроме пяти крупнейших, а объем используемой ими воды будет сопоставим с годовыми потребностями 1,3 миллиарда жителей стран Африки к югу от Сахары.
В этой связи глава ООН вновь призвал поддержать инициативу Организации по обеспечению экологической прозрачности в сфере искусственного интеллекта.
Как развивались международные усилия по регулированию ИИ
2017 год: Генеральный секретарь ООН впервые призвал к созданию международных механизмов регулирования искусственного интеллекта. Тогда он отметил «поразительный» потенциал технологии, одновременно предупредив о ее возможном влиянии на рынок труда, международную безопасность и «социальную ткань».
2023 год: Консультативный орган высокого уровня по вопросам ИИ выступил с призывом создать глобальную систему управления этой технологией.
2024 год: Пакт во имя будущего и Глобальный цифровой договор закрепили мандат на разработку международной модели управления ИИ.
Июнь 2026 года: Независимая международная научная группа ООН по искусственному интеллекту предупредила, что ИИ способен «привести к катастрофическим последствиям как самостоятельно, так и в результате злонамеренного использования», поскольку развитие технологии опережает как научное понимание, так и способность государств адаптироваться к новым вызовам.
6–7 июля 2026 года: в Женеве проходят первый Глобальный диалог ООН по вопросам управления искусственным интеллектом и саммит «ИИ во благо».
По словам Генерального секретаря, именно эти мероприятия должны определить дальнейшее направление международных усилий.
Эта статья была первоначально опубликована новостным агентством ООН.
