Глава Anthropic заявляет, что власти должны иметь право блокировать новые модели ИИ для обеспечения безопасности и этических норм.
Дарио Амодеи, CEO компании Anthropic, высказал мнение, что правительство Соединенных Штатов должно обладать полномочиями для ограничения разработки и внедрения новых систем искусственного интеллекта (ИИ), если они несут в себе потенциальные угрозы.
По его словам, всем моделям ИИ необходимо подвергаться обязательному оцениванию со стороны независимых экспертов, чтобы выявить риски в различных областях, таких как кибербезопасность и применение биологического оружия. «Если будет установлено, что конкретный ИИ создает неприемлемые опасности, власти должны иметь право останавливать или замедлять его развертывание», — отметил он (согласно Bloomberg).
Издание Bloomberg подчеркивает, что его слова являются одним из самых настойчивых призывов к ужесточению норм и правил в сфере регуляции ИИ на фоне быстрого развития технологий.
«Пришло время перейти от простого обеспечения прозрачности к строгому и обязательному регулированию ИИ… Нам необходимо коллективно активизировать медлительные и нестабильные политические механизмы, чтобы справиться с рисками и возможностями, которые будут расти необратимо быстро», — заключил Дарио Амодеи.
Ранее Anthropic презентовала свою новую мощнейшую модель ИИ под названием Mythos, а также её версию Fable 5, которая предназначена для использования только в безопасных рамках и исключает возможность применения в кибератаках или для создания биологического и химического оружия.
Несмотря на быстрое развитие технологий, эксперты подчеркивают, что регулирование ИИ — это сложный и многоуровневый процесс, требующий участия как государственных структур, так и частного сектора.
