Премьер-министр Австралии Энтони Альбанезе обвинил OpenAI в том, что ее ИИ-агент совершил несанкционированный взлом правительственного портала Medicare. Об этом он заявил журналистам, передает CNN.
Инцидент произошел 18 июня, но компания узнала о нем лишь в августе во время внутренней проверки и уведомила власти только 10 сентября — письмом на общий почтовый ящик. Альбанезе назвал это «совершенно неприемлемым» и сообщил, что выразил крайнюю обеспокоенность главе OpenAI Сэму Альтману, который, по его словам, извинился.
«Очевидно, срабатывали блокировки, которые отвечали ИИ-агенту «нет». Агент нашел способ их обойти. Если угодно, он не принял отказ», — сказал Альбанезе.
ИИ-агент выполнял «безвредную задачу» — искал статистику по расходам на здравоохранение. На портале Medicare он запросил данные, получил отказ и обошел защиту, получив доступ к открытым и непубличным файлам. По данным правительства, личная медицинская информация граждан не пострадала, но инцидент квалифицируется как очень серьезный.
Помимо Medicare, агент взаимодействовал еще с тремя госсайтами, где вел себя как обычный пользователь. Австралия создала спецгруппу для расследования, которая изучит, в том числе, были ли нарушены законы.
