Компания Anthropic предупредила о возможности появления компактных ИИ-моделей, которые смогут самостоятельно распространяться на коммерческих устройствах интернета вещей.
В качестве примеров исследователи называют умные духовки и недорогие ТВ-приставки с Android. Речь идёт о прогнозе по результатам экспериментов, а не о том, что такая система уже распространяется в домашних сетях.
В Anthropic считают, что остановить потенциальную самовоспроизводящуюся систему будет трудно: у неё не будет единого центра управления. При этом удвоение числа заражённых устройств может занимать несколько дней. В отличие от обычного вредоносного ПО, ИИ-агент теоретически способен самостоятельно разбираться в незнакомом оборудовании и подбирать способ запуска на нём.
Исследователи проверяли, может ли модель наладить выполнение вычислений на разных устройствах. Модель с девятью миллиардами параметров сумела запустить инференс на восьми из девяти протестированных типов оборудования. Инференс — это выполнение уже обученной модели для получения ответа. Испытание не означает, что модель заражала восемь видов бытовой техники в реальных сетях.
Авторы также распределили модель Gemma4-26B-A4B между 15 недорогими ТВ-приставками. Каждое устройство выполняло часть вычислений. Опыт показал, что для работы модели не обязательно использовать центр обработки данных, хотя скорость такой системы была низкой — около 0,39 токена в секунду.
В исследовании отдельно разбираются поиск цели, получение доступа, запуск модели и дальнейшее распространение. Anthropic сосредоточилась прежде всего на этапе запуска инференса на незнакомом оборудовании. Успех в этом эксперименте не доказывает, что автономный ИИ-червь уже способен беспрепятственно переходить между защищёнными устройствами: для этого требуются и другие действия.
Компания оценивает результаты как предупреждение для специалистов по кибербезопасности. Бытовые устройства часто обладают ограниченной памятью и не всегда получают надёжные обновления. Поэтому развитие компактных моделей может потребовать дополнительной защиты домашних и корпоративных сетей. Прогноз Anthropic касается возможных будущих угроз, а не объявленной компанией функции умных духовок или ТВ-приставок.
