На генассамблее ООН заявили об угрозе ИИ для всего человечества

На этот раз его заявление прозвучало в ходе заседания Совета Безопасности ООН. По словам топ-менеджера, искусственный интеллект может стать угрозой для всего человечества.

«Развитие ИИ происходит невероятно быстро. Всего четыре года назад он едва мог написать простой программный код или решить задачу на уровне старших классов школы. Сейчас же ИИ отвечает за написание большей части кода в Anthropic», — заявил Амодеи и подчеркнул, что, если сохранить текущие темпы, через год-два, а может и быстрее, люди столкнутся с тем, что он называет «гением, сконцентрированным в дата-центре».

Глава компании также подчеркнул, что современные передовые ИИ-системы могут приносить огромную пользу, но при этом несут значительные риски. Среди угроз — возможность злоупотреблений, например, для создания биологического оружия, а также риск потерять контроль над дальнейшим развитием технологии.

В связи с этим Амодеи заявил о готовности своей компании замедлить темпы внедрения ИИ настолько, насколько будет необходимо для обеспечения безопасности.

Ранее Амодеи опубликовал обращение с призывом приостановить прогресс искусственного интеллекта, чтобы использовать выигранное время разумно. Его позицию поддержал глава OpenAI Сэм Альтман. В то же время инвестор Майкл Бьюрри, известный своими прогнозами кризисов на американском фондовом рынке, раскритиковал такой подход, предположив, что топ-менеджеры пытаются искусственно повысить стоимость своих компаний перед IPO и скрыть замедление роста в индустрии ИИ.

В ответ на тревоги экспертов несколько международных организаций и государств начали обсуждения о создании новых нормативных правил для регулирования развития и применения искусственного интеллекта. Планируется внедрение механизмов контроля за безопасностью алгоритмов, обеспечивающих прозрачность и подотчетность разработчиков. Также уделяется внимание вопросам этики и предотвращению дискриминации, вызванной автоматизированными системами.