Искусственный интеллект с захватывающей дух скоростью трансформирует повседневную жизнь, информационное пространство, мировую экономику и оказывает влияние на международную безопасность. С таким словами в среду на открытых дебатах высокого уровня по ИИ в Совбезе ООН выступил Генеральный секретарь Антониу Гутерриш.

«Вопрос не в том, повлияет ли ИИ на международный мир и безопасность, а в том, как мы будем формировать это влияние», – сказал глава ООН.

Инструмент защиты или оружие?

При ответственном использовании, отметил Гутерриш, ИИ поможет предотвращать конфликты и защищать население, в том числе за счет выявления потенциальных вспышек насилия. ИИ также используется в разминировании и других областях.

При этом он также может превратиться в оружие. Искусственный интеллект уже активно используется в конфликтах.

«Кибератаки с использованием ИИ могут уничтожить критически важную инфраструктуру или нарушить ее работу в считанные минуты. Возможность фальсифицировать и манипулировать аудио- и видеоматериалами угрожает целостности информации, усиливает поляризацию и может спровоцировать дипломатические кризисы», – сказал Генсек.

ИИ, международная безопасность и роль Совбеза

Одна из основных целей открытых дебатов в Совете – стимулировать обсуждение вопросов снижения рисков, связанных с использованием ИИ, и максимизации его преимуществ в контексте международного мира и безопасности с учетом потенциальной роли Совбеза в этом процессе.

«Совет [Безопасности] и государства-члены ООН должны обеспечить, чтобы военное использование ИИ находилось в полном соответствии с международным правом и Уставом ООН», – сказал Гутерриш.

Человеческий контроль

Он подчеркнул, что человек должен контролировать любое решение о применении силы.

«Судьба человечества не может быть оставлена ​​на усмотрение алгоритма. Люди всегда должны сохранять контроль над решениями, касающимися жизни и смерти», – заявил он.

Гутерриш также призвал создать глобальную нормативную базу для использования ИИ.

ИИ может подвергнуть риску все человечество

Учитывая значительный прогресс в разработке технологий искусственного интеллекта, которые могут как способствовать укреплению, так и подрывать международную безопасность, члены Совета Безопасности в последнее время стали уделять больше внимания этому вопросу.  Сегодняшняя встреча – третье официальное заседание Совета, посвященное ИИ. Великобритания провела первое заседание по этой теме в июле 2023 года, а США – второе в декабре 2024 года.

Дебаты на полях Недели высокого уровня Генассамблеи ООН проходят под председательством Южной Кореи. В них приняли участие приглашенные докладчики: Еджин Чой, старший научный сотрудник Института ИИ, ориентированного на человека, при Стэнфордском университете и Йошуа Бенжио, профессор Монреальского университета, сопрезидент некоммерческой организации LawZero.

Бенжио предупредил, что человечество в настоящее время не знает, как контролировать самые передовые системы искусственного интеллекта. Это уже создает серьезные проблемы, отметил он, напомнив о недавних инцидентах с участием чат-ботов, которые могли поставить под угрозу жизнь людей с психическими расстройствами.

Читайте также:

Глава ООН: навыки в сфере ИИ – ключ к расширению прав молодежи в цифровую эпоху

Профессор добавил, что ИИ может превзойти людей в выполнении большинства когнитивных задач в течение ближайших пяти лет.

«Если возможности моделей искусственного интеллекта продолжат превосходить человеческие возможности без научных гарантий их безопасности…, мы достигнем точки, когда ИИ сможет действовать необратимо, выйдя из-под чьего-либо контроля и подвергая риску все человечество», – сказал Бенжио.

«Мы должны быть осторожны и не уступить наш коллективный человеческий и национальный суверенитет компаниям или используемым ими моделям ИИ. Мы должны действовать немедленно, чтобы сообща снизить все эти риски. Эта проблема не ограничивается пределами одной страны, а угрожает всем нам», – добавил он, обращаясь к членам Совбеза.

Демократизация ИИ

Еджин Чой заявила о необходимости обеспечить, чтобы системы ИИ представляли все сообщества, а также были доступны всему населению планеты. Для этого еще очень многое предстоит сделать, отметила она.

«Мы должны сместить акцент на то, что действительно важно для человечества: языковое и культурное разнообразие и плюралистические ценности. Современные ведущие модели ИИ неэффективны для многих языков, кроме английского, и отражают ограниченные культурные установки», – сказала профессор.

Это приводит к систематическому исключению целых сообществ из процессов развития ИИ и максимизации преимуществ его использования. Чой подчеркнула, что системы изначально должны создаваться восприимчивыми к различным языкам, контекстам и перспективам.

Она призвала к созданию общественной инфраструктуры ИИ, которая будет доступна каждому.

Позиции стран

В своем выступлении Постоянный представитель России при ООН Василий Небензя заявил, что тема искусственного интеллекта не связана с «четко прописанным в Уставе ООН мандатом СБ по поддержанию международного мира и безопасности».

По его словам, в Совбезе есть «неестественный перекос в сторону представительства стран Запада».

«Соответственно, высок риск того, что эта группа государств, заинтересованная в сохранении и упрочении своего технологического лидерства в этой области, попытается навязать всему международному сообществу свой узкокорыстный подход», – сказал Небензя.

Он добавил, что для обсуждения ИИ существуют профильные площадки, включая Группу правительственных экспертов по смертоносным автономным системам вооружений и Комиссию ООН по разоружению. ООН в целом «может и должна сыграть координирующую роль в вопросах развития ИИ», считает Постпред РФ.

Заместитель Постоянного представителя Франции при ООН Джей Дхармадхикари заявил, что новые возможности, предоставляемые искусственным интеллектом, должны усиливать эффективность деятельности Организации Объединенных Наций.

«При ответственном использовании возможности ИИ в области сбора и анализа данных могут улучшить защиту гражданского населения и облегчить работу миротворческих операций», – сказал он.

Дипломат призвал создать общую архитектуру управления ИИ, основанную на международном праве. Совет Безопасности, по его мнению, призван сыграть в этом особую роль.

Новости ООН