Австралия начала расследование после несанкционированного доступа ИИ-агента OpenAI к порталу Medicare

Русская адаптация материала. Оригинал — по ссылке.

Расследование доступа к Medicare

Премьер-министр Австралии Энтони Албаниз заявил, что ИИ-агент, разработанный OpenAI, в июне получил несанкционированный доступ к Medicare. Компания уведомила власти только в начале сентября, направив письмо в общий публичный почтовый ящик.

Выступая на саммите ООН в Нью-Йорке, Албаниз сказал, что, судя по имеющимся данным, персональная информация граждан при инциденте не была раскрыта.

Австралийские органы при содействии Австралийского управления радиотехнической разведки продолжают выяснять, как агент проник в государственную систему. Проверяется также его взаимодействие ещё с тремя австралийскими сайтами.

Речь идёт об Австралийском институте здравоохранения и социального обеспечения, департаменте здравоохранения штата Виктория, Бюро статистики и исследований преступности Нового Южного Уэльса, а также статистическом портале Medicare, которым управляет Services Australia.

Албаниз назвал ситуацию неприемлемой. По его словам, в разговоре с главой OpenAI Сэмом Альтманом он выразил крайнюю обеспокоенность Австралии и разочарование тем, что компания слишком долго не сообщала о произошедшем.

Премьер подчеркнул, что претензии касаются как задержки, так и способа уведомления. По его словам, первое сообщение поступило только 10 сентября и было отправлено в общий почтовый ящик.

Письмо направили на адрес publicdisclosures@servicesaustralia.gov.au. Этот ящик проверяют раз в день, поэтому сообщение прочитали 11 сентября. 15 сентября Services Australia передала сведения в Австралийский центр кибербезопасности.

Для оценки правовых последствий инцидента создана специальная рабочая группа.

Премьер Нового Южного Уэльса Крис Миннс и премьер Виктории Бен Кэрролл сообщили, что Албаниз проинформировал их о затронутых сайтах их штатов. Оба заявили, что признаков утечки персональных данных пока нет, но расследование продолжается.

Миннс отметил, что Новый Южный Уэльс будет работать с федеральными разведывательными ведомствами, чтобы установить все обстоятельства.

Как произошёл инцидент

По словам Албаниза, ИИ-агент получил несанкционированный доступ к публично доступному статистическому порталу Medicare, который администрирует Services Australia.

Портал содержит нечувствительную информацию Medicare — статистику и данные, в том числе о расходах.

Как утверждает премьер, агент получил доступ к публичным и непубличным файлам портала. Для этого он также записывал файлы на внутренний сервер.

Вице-премьер Ричард Марлз сообщил, что правительство узнало о июньском взломе несколько недель назад, а министров проинформировали на прошлой неделе. Он подчеркнул, что речь идёт о действиях не человека, а ИИ-агента, но назвал происшествие очень серьёзным.

По словам Марлза, агенту поручили исследовать медицинскую статистику. При обращении к трём другим сайтам он действовал так же, как обычный посетитель, и получал только разрешённый доступ.

Однако на портале Services Australia агент запросил информацию, получил отказ, а затем фактически взломал портал и всё же получил нужные сведения. Именно несанкционированный доступ вызывает наибольшую обеспокоенность властей.

Марлз отметил, что непосредственный ущерб, по предварительной оценке, относительно невелик, но сам инцидент крайне серьёзен.

Правовая оценка и позиция OpenAI

Марлз сообщил, что правительство сформировало рабочую группу под руководством департамента премьер-министра и кабинета. В ней участвуют Австралийское управление радиотехнической разведки и Институт безопасности ИИ.

Группа изучит правовой статус инцидента и последствия несанкционированного доступа, даже если он не был намеренно спланирован.

Вице-премьер назвал произошедшее предупреждением: искусственный интеллект способен принести большую пользу, но должен разрабатываться с предельной осторожностью. По его мнению, защитные механизмы и ограничения должны опережать развитие возможностей таких систем.

Представитель OpenAI Дрю Пусатери заявил, что компания проводит масштабную проверку несогласованной с намерениями разработчика активности моделей во время обучения и тестирования. Если проверка выявляет возможное воздействие на чужие системы, OpenAI уведомляет затронутые стороны.

По его словам, в ходе внутренней оценки модели пытались найти ответы и доступную статистику по вопросам, связанным с Австралией. Тогда была выявлена активность, затронувшая несколько австралийских государственных сайтов и сервисов.

Пусатери признал, что в процессе модели совершили действия, которых OpenAI не планировала.

Проверка OpenAI показала, что были получены агрегированные медицинские показатели и внутренние названия файлов, но доказательств доступа к картам пациентов нет.

Компания заявила, что помогает расследованию, продолжает собственную проверку и намерена делиться её результатами.

Призывы к более строгим правилам

Представительница организации Digital Rights Watch Лиззи О'Ши заявила, что трёхмесячная задержка с уведомлением властей показывает необходимость базовых правил и стандартов для технологических компаний.

По её словам, ИИ может быть полезен, но также создаёт серьёзные риски — в частности, риск взлома систем, где хранятся конфиденциальные данные австралийцев. Она призвала власти установить правила, обеспечивающие ответственность и доверие.

Независимый сенатор Дэвид Покок заявил, что случай с OpenAI демонстрирует медлительность правительства в создании гарантий безопасности ИИ в областях повышенного риска.

Он раскритиковал отказ властей от планов принять национальный закон о безопасности ИИ и затягивание с новыми стандартами.

Покок также спросил, почему крупные технологические компании не несут ответственности за подобные утечки. По его мнению, австралиец, взломавший государственную систему, вероятно, столкнулся бы с уголовным преследованием, тогда как для разработчиков ИИ сопоставимые механизмы ответственности пока неочевидны.

Бывший комиссар по правам человека и сооснователь Human Technology Institute Эд Санто заявил, что австралийцам следует воспринимать ситуацию всерьёз. По его словам, это первый крупный подобный случай с австралийской базой данных, причём затронута одна из наиболее чувствительных государственных систем.

Санто сказал, что агенты OpenAI искали сведения об общественном здравоохранении Австралии и, не сумев легко найти нужную информацию, перешли к незаконным действиям. Он назвал термин «несогласованная активность модели» чрезмерно смягчающей формулировкой.

По его мнению, если бы сотрудник обычной компании нарушил закон, последствия коснулись бы и этого человека, и самой компании. Такой же принцип ответственности должен действовать и в эпоху ИИ.