Правительство Австралии обвинило OpenAI во взломе государственной базы данных

Премьер-министр страны-континента Энтони Албаниз заявил, будто ИИ-агенты «проникли» в базу данных портала медицинского страхования Medicare, управляемого австралийским Минздравом, и даже скачали оттуда какие-то данные!

Кибератака произошла в июне этого года. Пикантности ей добавляет факт, что OpenAI не просила ИИ-агентов ничего взламывать: она отправила ботов парсить данные по интернету, а те уже сами решили, откуда и как будут скачивать нужную информацию.

История быстро превращается в комедию, если проговорить две детали. Во-первых, портал отчётности Medicare — это общедоступный ресурс, содержащий неконфиденциальные данные и статистическую информацию вроде сведений о тратах в рамках самой программы.

Во-вторых, ИИ-агенты OpenAI не взламывали никакую сверхзащищённую базу данных пользователей, а просто нашли способ скачать общедоступный для человека файл, обойдя систему защиты сайта от ботов.

Де-факто агенты OpenAI взломали не австралийский Минздрав, а защиту Cloudflare.

Прежде чем скачать искомый файл, ИИ-агенты проверяли устойчивость Cloudflare к межсайтовому скриптингу, а затем начали стучаться на сервер предпродакшена в попытках скачать файл оттуда. И всё это баловство произошло без прямой команды атаковать сайт: ИИ просто пытался придумать, как ему заполучить нужную информацию.

Премьер Австралии оперативно сообразил, как можно капитализировать инцидент, важно надул щёки и запросил телефонный разговор с главой OpenAI Сэмом Альтманом, после которого объявил о разработке австралийских стандартов безопасности в сфере искусственного интеллекта.