11:14
Москва
21 января ‘19, Понедельник

Правозащитники испугались наступления эры терминаторов

Опубликовано
Фото: Flickr.com
Понравилось?
Поделитесь с друзьями!

Международная правозащитная организация Amnesty International обеспокоилась успехами в разработке автономных боевых систем, способных самостоятельно определять цели для атаки.

Поводом для паники среди правозащитников стали известия из США, где компания Raytheon по заказу Минобороны приступила к разработке нейронной сети, способной не только самостоятельно принимать решения, но и объяснять логику их принятия.

Новый проект получил название «Способный объяснять искусственный интеллект» (XAI). Планируется, что робот, оснащенный такой системой, посредством графического интерфейса будет взаимодействовать с оператором и рассказывать ему о последовательности принятия решений.

В качестве примера приводится робот-медик, который на рентгеновском снимке легкого сможет обнаруживать признаки рака. Если живого врача возьмут сомнения насчет правильности диагноза, он сможет запросить пояснения, и тогда робот укажет на вызвавшие опасения подозрительные тени. «Тогда врач решит, что делать дальше — провести более углубленную диагностику или, скажем, списать все на артефакты рентгенографии», - говорится в статье портала «Новые Известия».

Однако такой интеллект можно будет применять не только в мирных целях. В США военные давно стали работать с автоматизированными системами огня, которые сами определяют цели. Недалек тот день, когда будут созданы смешанные боевые подразделения из людей и роботов. Но живые солдаты захотят быть уверенными, что робот внезапно по ошибке не станет стрелять им в спины, и здесь как раз на помощь может прийти нейросеть XAI.

Такой перспективой не воодушевились в Amnesty International, указав, что право «принимать решения о жизни и смерти» должно быть только у человека.

В таком случае и никак иначе можно обеспечить соблюдение международного права. Советник AI по вопросам искусственного интеллекта и правам человека Раши Абдул-Рахим отметил, что разработки в США приближают человечество к поистине апокалиптичным сценариям.

AI в этой связи предлагает проработать юридические стандарты, в соответствии с которыми люди останутся ключевым звеном при реализации «критически важных функций».

Читайте нас в Дзене

Добавьте ленту «INFOX.ru» в свою личную и получайте актуальные новости ежедневно

Подписаться
Длительность новогодних каникул могут пересмотреть
Реклама

Мы рекомендуем
21.01.2019, 00:02
Накануне переговоров между президентом России Владимиром Путиным и премьером Синдзо Абэ по вопросу островов японская сторона начала массированную информационную атаку. Прежде всего, было заранее объявлено, что Япония согласна взять два острова из четырех. Такая позиция вызвала легкое недоумение у российской стороны.
20.01.2019, 22:14
Один из лидеров президентской гонки на Украине – актер Владимир Зеленский – признался, что у него есть бизнес в России. Этот фактор можно назвать хорошей приметой. В свое время действующий президент Петр Порошенко также победил на выборах имея в России кондитерскую фабрику.
Реклама