11:55
Москва
21 апреля ‘19, Воскресенье

Правозащитники испугались наступления эры терминаторов

Опубликовано
Фото: Flickr.com
Понравилось?
Поделитесь с друзьями!

Международная правозащитная организация Amnesty International обеспокоилась успехами в разработке автономных боевых систем, способных самостоятельно определять цели для атаки.

Поводом для паники среди правозащитников стали известия из США, где компания Raytheon по заказу Минобороны приступила к разработке нейронной сети, способной не только самостоятельно принимать решения, но и объяснять логику их принятия.

Новый проект получил название «Способный объяснять искусственный интеллект» (XAI). Планируется, что робот, оснащенный такой системой, посредством графического интерфейса будет взаимодействовать с оператором и рассказывать ему о последовательности принятия решений.

В качестве примера приводится робот-медик, который на рентгеновском снимке легкого сможет обнаруживать признаки рака. Если живого врача возьмут сомнения насчет правильности диагноза, он сможет запросить пояснения, и тогда робот укажет на вызвавшие опасения подозрительные тени. «Тогда врач решит, что делать дальше — провести более углубленную диагностику или, скажем, списать все на артефакты рентгенографии», - говорится в статье портала «Новые Известия».

Однако такой интеллект можно будет применять не только в мирных целях. В США военные давно стали работать с автоматизированными системами огня, которые сами определяют цели. Недалек тот день, когда будут созданы смешанные боевые подразделения из людей и роботов. Но живые солдаты захотят быть уверенными, что робот внезапно по ошибке не станет стрелять им в спины, и здесь как раз на помощь может прийти нейросеть XAI.

Такой перспективой не воодушевились в Amnesty International, указав, что право «принимать решения о жизни и смерти» должно быть только у человека.

В таком случае и никак иначе можно обеспечить соблюдение международного права. Советник AI по вопросам искусственного интеллекта и правам человека Раши Абдул-Рахим отметил, что разработки в США приближают человечество к поистине апокалиптичным сценариям.

AI в этой связи предлагает проработать юридические стандарты, в соответствии с которыми люди останутся ключевым звеном при реализации «критически важных функций».

Читайте нас в Дзене

Добавьте ленту «INFOX.ru» в свою личную и получайте актуальные новости ежедневно

Подписаться
С сухим счетом: Зеленский разгромил Порошенко на дебатах
Реклама

Мы рекомендуем
21.04.2019, 10:11
Глубокой ночью 21 апреля суд в Киеве отказался от отстранения фаворита президентской гонки Владимира Зеленского от участия в выборах. Тем не менее остается много вопросов, на которые до сих пор не получены ответы – действовал ли подавший иск адвокат Андрей Хилько самостоятельно или как-либо координировался со штабом Петра Порошенко.
20.04.2019, 23:25
Расследование главного пожара года – собора Парижской Богоматери – уже дало первые результаты. Судя по всему, первым загорелось основание шпиля легендарного памятника. Однако системы пожаротушения никак не сообщили об этом.
Реклама