Лауреат Нобелевской премии Джеффри Хинтон считает, что разработку особо мощных систем искусственного интеллекта необходимо ограничить.
Джеффри Хинтон, известный как «крестный отец» искусственного интеллекта и лауреат Нобелевской премии, высказывает мнение о том, что мировым правительствам следует ограничить разработку крайне мощных ИИ-систем. В интервью изданию The Times он отметил, что такие технологии способны привести к гибели человеческой расы.
По его словам, на данный момент не существует безопасных методов для создания «суперинтеллекта» — искусственной системы, которая могла бы превосходить человеческий разум. Он утверждает: «Мы поступаем неразумно, если инвестируем усилия в разработку суперинтеллекта. В научном сообществе нет единого мнения о том, как это можно сделать безопасно и под контролем,— говорит профессор Хинтон в интервью.— Утрата контроля над ИИ, который превосходит нас, была бы несомненно катастрофической и могла бы угрожать существованию всего человечества».
Джеффри Хинтон, признанный во всем мире психолог и эксперт в компьютерных науках, стал лауреатом Нобелевской премии по физике в 2024 году за свои значительные исследования, открывшие новые горизонты в машинном обучении с использованием искусственных нейронных сетей. Он сыграл ключевую роль в разработке технологий глубинного обучения, которые легли в основу современных нейросетей, включая Chat GPT и системы автономного вождения.
В 2012 году, совместно с учениками, он создал нейросеть AlexNet, которая одержала победу на конкурсе ImageNet по распознаванию изображений. Эксперты отмечают, что это подтверждало преимущества глубоких нейросетей перед другими подходами и стало толчком для нынешнего всплеска интереса к сфере ИИ.
Хинтон также подчеркивает важность разработки этических стандартов в области ИИ, чтобы избежать потенциальных негативных последствий. Он призывает к созданию международного регулирующего органа, который сможет следить за развитием и внедрением технологий искусственного интеллекта, чтобы гарантировать их безопасное использование. Эксперты в области кибербезопасности, такие как Брюс Шнайер, также обеспокоены тем, как технологии могут использоваться для создания автономных оружий или манипуляций с общественным мнением, что подчеркивает непредсказуемый характер будущего ИИ.
