После стремительного развития технологий, вызванного запуском ChatGPT три года назад, мировые лидеры и дипломаты намерены обсудить пути международного регулирования и минимизации рисков.
Искусственный интеллект (ИИ) стал одной из главных тем ежегодной сессии Генеральной Ассамблеи ООН. Мировое сообщество впечатлено возможностями искусственного интеллекта, но эксперты предупреждают о серьёзных угрозах: от создания биологического оружия и пандемий до распространения масштабной дезинформации и подрыва международной стабильности.
Ранее подобные обсуждения проходили на саммитах в Великобритании, Южной Корее и Франции, однако их итогом стали лишь необязывающие декларации. Теперь же ООН предприняла шаг к созданию новой архитектуры глобального управления ИИ.
В августе Генассамблея приняла резолюцию о формировании двух ключевых институтов:
- Глобального форума по управлению ИИ (Global Dialogue on AI Governance), который станет площадкой для обмена идеями и выработки международного сотрудничества;
- Независимой научной панели из 40 экспертов, которая будет работать по аналогии с Межправительственной группой экспертов по изменению климата (IPCC).
Первое заседание форума состоится в 2026 году в Женеве, а в 2027 году — в Нью-Йорке.
В среду Совет Безопасности ООН проведёт открытые дебаты о том, как обеспечить ответственное применение ИИ в соответствии с международным правом и как использовать технологию для предотвращения конфликтов.
Генсек ООН Антониу Гутерриш уже в четверг проведёт встречу по запуску форума.
Между тем группа ведущих специалистов из OpenAI, Google DeepMind и Anthropic призвала правительства установить так называемые «красные линии» для ИИ уже к концу следующего года. Они предлагают подписать международное юридически обязывающее соглашение, аналогичное договорам о запрете ядерных испытаний или биологического оружия.
Профессор Калифорнийского университета в Беркли Стюарт Рассел предложил сделать разработчиков ИИ ответственными за доказательство безопасности систем перед их коммерческим использованием — по аналогии с лицензированием лекарств или атомных станций.
По мнению исследователя Chatham House Изабеллы Уилкинсон, новые инициативы ООН — это «символическая победа» и «самая инклюзивная модель глобального регулирования ИИ», но на практике их эффективность пока под вопросом из-за медлительности бюрократических структур.
