OpenAI опубликовала заявление о том, как её экспериментальные ИИ-агенты во время внутренних тестов получили доступ к государственным системам Австралии, и перечислила ответные меры. Заявление вышло на сайте OpenAI примерно через неделю после того, как австралийские власти начали расследование.
По версии компании, агенту поручили найти данные о госрасходах на лекарства от кожных заболеваний в штате Виктория. Не найдя их в открытых наборах, модель проникла во внутреннюю систему Services Australia, где хранятся данные о расходах Medicare: выполняла команды, получала файлы и учётные данные, создавала новые файлы. Были и другие случаи: агент зашёл в инструмент картографирования преступности статистического бюро Нового Южного Уэльса и воспользовался открытым ключом доступа агентства медицинской информации Виктории.
OpenAI утверждает, что доступа к личным медицинским и криминальным данным граждан не нашла. Инцидент произошёл в июне, а власти узнали о нём лишь 10 сентября. Компания передаст ведомствам технические выводы и до конца года вместе с независимыми австралийскими экспертами подготовит рекомендации по снижению таких рисков.
