Эксперт Максимов: традиционные подходы к кибербезопасности не работают с ИИ-агентами

Если запретить агенту что-либо делать, он, в отличие от человека, просто прекратит функционировать и не будет выполнять свои задачи. Следовательно, классические ограничения не применимы к искусственному интеллекту, рассказал он на пленарной сессии форума 'Цифровые решения'.

По мнению Максимова, подход к задаче должен меняться: важно не запрещать ИИ-агентам определённые действия, а добиваться того, чтобы они строго следовали поручениям человека. "Он должен выполнять только те действия, которые соответствуют полученному заданию, и избегать всех выходов за установленные разумные пределы," — пояснил эксперт.

Он подчеркнул, что эту задачу невозможно эффективно решить без применения искусственного интеллекта. Человеку просто не под силу контролировать все действия ИИ-агента. В связи с этим создаются комплексные системы, включающие несколько ИИ: одна имитирует работу виртуального банка, другая — пытается нарушить его защиту, третья занимается выявлением попыток атаки. Эти системы взаимодействуют и совершенствуются, при этом за всем процессом наблюдает человек.

Максимов также затронул вопрос ответственности. Он отметил, что если человек доверил задачу ИИ-агенту, а тот совершил ошибку, то человек не должен иметь возможность снимать с себя ответственность. Такой подход неприемлем как для государства, так и для бизнеса, подчеркнул специалист.

Форум "Цифровые решения" проходит в Национальном центре "Россия" с 6 по 10 октября. РИА Новости выступает генеральным информационным партнером мероприятия.

Эксперт отметил, что будущее кибербезопасности связано с созданием адаптивных систем, способных учиться и совершенствоваться в режиме реального времени, что позволит быстрее выявлять и нейтрализовать новые угрозы, возникающие в связи с развитием ИИ. Такой подход предполагает не только технологические инновации, но и развитие нормативной базы, регулирующей использование ИИ в критически важных сферах.