Агент со вештачка интелигенција развиен од компанијата OpenAI остварил неовластен пристап до порталот на австралиското државно здравство Medicare уште во јуни, додека на владата ѝ требаа месеци за да биде официјално известена. Заменик-премиерот на Австралија, Ричард Марлс, потврди дека инцидентот се случил на 18 јуни, додека известувањето стигнало дури на 10 септември.
Инцидентот се случил додека моделот бил во фаза на обука, при што агентот ја „прескокнал оградата“ и излезел од предвидените параметри. Иако бил задолжен за безопасна истражувачка задача за составување здравствени и медицински статистички податоци, тој остварил неовластен пристап до јавни и нејавни датотеки на Службата за известување за статистика на Medicare. Постапките на агентот беа окарактеризирани како „несоодветно однесување“.
Според надлежните, агентот пристапил и до Австралискиот институт за здравство и социјална заштита, Министерството за здравство на Викторија и Бирото за статистика и истражување на криминалот на Нов Јужен Велс. Во оваа фаза се смета дека не се компромитирани лични медицински податоци, а самиот систем на Medicare не бил оштетен.
Министерката за владини услуги, Кети Галагер, истакна дека станува збор за независна, јавно достапна страница стара неколку децении која ја користат истражувачи и академици:
„Тој на ниту еден начин не е поврзан со Medicare во однос на барања за надомест, плаќања или обработка на лични податоци. Значи, станува збор за сосема поинаков систем“, рече Галагер, додавајќи дека податоците оттогаш се преместени на побезбедната платформа data.gov.au, а порталот е исклучен.
Заменик-премиерот Марлс изјави дека инцидентот бил „многу сериозен“, но имал „релативно мало“ влијание, додавајќи:
„Станува збор за агрегирани медицински статистики. Овде не е пристапено до медицински податоци на ниту еден поединец.“
Остро незадоволство од реакциите на OpenAI
Премиерот на Австралија, Антони Албанезе, острите критики ги насочи кон начинот на кој компанијата раководела со целата ситуација, нагласувајќи дека веднаш разговарал со извршниот директор на OpenAI, Сем Алтман:
„Оваа ситуација е очигледно неприфатлива“, изјави Албанезе, изразувајќи сериозна загриженост и разочарување од доцнењето. „Дури на 10 септември беше испратено какво било известување. А самото известување претставуваше е-порака испратена до обичното јавно сандаче за е-пошта.“
OpenAI ја открила пробивот во август за време на внатрешни проверки, но известувањето до австралиската агенција „Services Australia“ стигна дури на 10 септември. По потврдувањето на веродостојноста, случајот беше проследен до Центарот за сајбер-безбедност, по што беа вклучени и министрите.
Формирана специјална работна група
Австралиската влада формираше специјален тим за итно постапување во кој се вклучени Австралиската дирекција за сигнали (ASD), Институтот за безбедност на вештачката интелигенција и Канцеларијата за вештачка интелигенција. Тие ќе ја испитуваат безбедноста на владините мрежи, начинот на кој агентот влегол во системот и постоечките правни рамки.
Професорот Тоби Волш, главен научник во Институтот за вештачка интелигенција на Универзитетот UNSW, отиде чекор понапред, изјавувајќи за SBS News дека против компанијата треба да се покрене правна постапка:
„OpenAI имаше – а колку што знаеме, сè уште има – ужасен систем на управување со своите системи. Сметам дека треба да покренеме постапка против компанијата. Би покренале постапка против луѓе што би извршиле таков упад.