Названа возможная тема встречи Путина, Трампа и Си Цзиньпина
Во время трехсторонней встречи лидеров России, США и Китая — Владимира Путина, Дональда Трампа и Си Цзиньпина — возможна договорённость о введении контроля над применением искусственного интеллекта в системах управления ядерными арсеналами.
Такую информацию публикует South China Morning Post со ссылкой на осведомлённые источники.
По сведениям издания, в течение последних недель представители трёх стран вели переговоры, направленные на согласование повестки и протокола предстоящих переговоров, которые запланированы на полях саммита АТЭС в Шэньчжэне на следующей неделе.
Темы вроде конфликта на Украине и ядерного разоружения Корейского полуострова фактически исключены из круга возможных обсуждений. Источники отмечают, что приоритетом стало обсуждение вопросов, по которым реалистично достичь консенсуса — прежде всего регулирование использования ИИ в системах командования и контроля, связанных с ядерным оружием.
Под контролем использования ИИ в системах командования и контроля обычно понимают набор технических и процедурных ограничений, призванных исключить или минимизировать возможность автоматического принятия решения о применении боеголовок без надлежащего человеческого вмешательства. Это включает требования «человека в цикле» (human-in-the-loop) или как минимум «человека над циклом» (human-on-the-loop), запрет на автономный запуск, обязательные механизмы ручного отключения и резервные каналы связи для предотвращения случайных или ложных пусков.
На практике возможные меры, которые могли бы обсуждать лидеры, включают: согласованные принципы безопасности и прозрачности при разработке и развертывании ИИ в стратегических системах; обмен информацией и уведомления о тестах и инцидентах; создание каналов экстренной связи и процедур деэскалации; совместные технические стандарты, аудит кодовой базы и независимые проверки безопасности; а также ограничения на использование определённых типов алгоритмов для задач целеуказания и принятия решений о применении оружия.