Юрий Максимов, сооснователь IT-компании Positive Technologies, заявил, что традиционные методы обеспечения кибербезопасности, которые строятся на строгих запретах и ограничениях, неэффективны при работе с ИИ-агентами.
Если запретить агенту что-либо делать, он, в отличие от человека, просто прекратит функционировать и не будет выполнять свои задачи. Следовательно, классические ограничения не применимы к искусственному интеллекту, рассказал он на пленарной сессии форума 'Цифровые решения'.
По мнению Максимова, подход к задаче должен меняться: важно не запрещать ИИ-агентам определённые действия, а добиваться того, чтобы они строго следовали поручениям человека. "Он должен выполнять только те действия, которые соответствуют полученному заданию, и избегать всех выходов за установленные разумные пределы," — пояснил эксперт.
Он подчеркнул, что эту задачу невозможно эффективно решить без применения искусственного интеллекта. Человеку просто не под силу контролировать все действия ИИ-агента. В связи с этим создаются комплексные системы, включающие несколько ИИ: одна имитирует работу виртуального банка, другая — пытается нарушить его защиту, третья занимается выявлением попыток атаки. Эти системы взаимодействуют и совершенствуются, при этом за всем процессом наблюдает человек.
Максимов также затронул вопрос ответственности. Он отметил, что если человек доверил задачу ИИ-агенту, а тот совершил ошибку, то человек не должен иметь возможность снимать с себя ответственность. Такой подход неприемлем как для государства, так и для бизнеса, подчеркнул специалист.
Форум "Цифровые решения" проходит в Национальном центре "Россия" с 6 по 10 октября. РИА Новости выступает генеральным информационным партнером мероприятия.
Эксперт отметил, что будущее кибербезопасности связано с созданием адаптивных систем, способных учиться и совершенствоваться в режиме реального времени, что позволит быстрее выявлять и нейтрализовать новые угрозы, возникающие в связи с развитием ИИ. Такой подход предполагает не только технологические инновации, но и развитие нормативной базы, регулирующей использование ИИ в критически важных сферах.
