Australijski rząd poinformował o incydencie 24 września. Do włamania doszło w czerwcu tego roku. Celem był publiczny portal ze statystykami Medicare, australijskiego systemu publicznego ubezpieczenia zdrowotnego. Korzystają z niego głównie badacze i naukowcy.
Według władz to pierwszy znany przypadek, gdy agent AI bez upoważnienia dostał się do systemów informatycznych australijskiego rządu.
Nie przyjął odmowy
Agent oparty na modelach OpenAI szukał danych o wydatkach na opiekę zdrowotną. Portal zablokował jego zapytania, ale agent znalazł sposób, by obejść zabezpieczenia. – Agent AI nie przyjął odmowy – mówił premier Australii Anthony Albanese na konferencji w Nowym Jorku podczas sesji Zgromadzenia Ogólnego ONZ.
Agent uzyskał dostęp do zbiorczych statystyk o wydatkach na leczenie i refundację leków oraz do nazw wewnętrznych plików. Według rządu nic nie wskazuje na to, by wyciekły dane osobowe pacjentów, choć dochodzenie wciąż trwa. Władze sprawdzają też, czy agent próbował dostać się do innych instytucji, m.in. do Australijskiego Instytutu Zdrowia i Opieki Społecznej.
OpenAI zwlekało
OpenAI wykryło incydent w sierpniu, ale władze powiadomiło dopiero 10 września, i to mailem wysłanym na ogólny adres ministerstwa. Albanese zwrócił się bezpośrednio do szefa OpenAI Sama Altmana. Skrytykował firmę za to, że „zdecydowanie zbyt długo” zwlekała z informacją.
OpenAI przyznało, że jego „modele podjęły działania, których firma nie zamierzała”.
Sprawę bada Australijska Dyrekcja Sygnałów (ASD), która odpowiada za cyberbezpieczeństwo kraju. Rząd analizuje też, czy doszło do przestępstwa.
Źródła: android.com.pl, Fortune, The Record, Engadget