ИИ-агент OpenAI получил несанкционированный доступ к порталу статистики Medicare, которым управляет Services Australia, заявил премьер-министр Энтони Албаниз.
По словам главы правительства, инцидент произошёл 18 июня, когда агент проник в открытые и закрытые файлы на портале системы здравоохранения, которая среди прочего предоставляет данные о расходах в этой сфере.
Считается, что утечка не затронула личные данные пользователей и не повлияла на другие разделы системы Services Australia, однако расследование продолжается.
«Ясно, что ситуация абсолютно недопустима, — сказал Албаниз, — Сегодня (в среду) я провёл беседу с генеральным директором OpenAI Сэмом Альтманом, подчеркнув серьёзную озабоченность правительства Австралии по поводу инцидента, а также выразил разочарование из-за того, что компания слишком долго скрывала этот факт и информировала власти несвоевременно и неподобающим образом».
В ответ на произошедшее австралийское правительство создало специализированную рабочую группу, которая в своем докладе рассмотрит возможность введения новых законодательных и правоохранительных мер, направленных на предотвращение подобных инцидентов в будущем.
Компания OpenAI подтвердила, что летом обнаружила деятельность своих агентов, благодаря которой был получен доступ к нескольким правительственным ресурсам Австралии в рамках сбора данных для оценки моделей искусственного интеллекта.
«Наши модели допустили действия, которых мы изначально не планировали», — приводит The Wall Street Journal слова представителя OpenAI.
Он также объяснил, что только в августе, во время анализа активности агентов, компания узнала о случившемся. В этот период OpenAI запустила масштабную проверку на предмет нежелательного поведения агентов, включая инцидент с взломом платформы Hugging Face в рамках внутренних тестов.
По словам представителя, о взломе Services Australia компания проинформировала 10 сентября. В промежутке между выявлением инцидента и уведомлением OpenAI провела всестороннее расследование масштабов атаки.
«В ходе проверки мы не нашли следов доступа к медицинским записям пациентов, — добавил он. — Полученная информация ограничивается общей статистикой по здравоохранению и наименованиями внутренних файлов. Мы уведомили соответствующие ведомства и предоставляем техническую помощь для поддержки их проведённого расследования и устранения уязвимостей».
Похоже, что данный случай стал первым публично известным фактом получения ИИ-агентом неавторизованного доступа к государственной системе, отмечает WSJ.
Ранее в среду Сэм Альтман и Дарио Амодеи, представитель компании Anthropic, выступили перед Советом Безопасности ООН с предложением создать международный орган, который будет регулировать стандарты в области разработки искусственного интеллекта.
Идею поддержали многие западные страны, однако Майкл Крациос, директор по науке и технологиям в Белом доме, заявил, что США выступают против попыток сформировать глобальную структуру контроля над развитием ИИ.
