OpenAI 策略長 Jason Kwon 十月六日出席澳洲國會人工智慧聯合特別委員會聽證會,就公司模型未經授權存取澳洲政府網站、且後續通報延遲一事公開致歉,並支持以法律建立重大事故的強制通報制度。
事情發生在今年六月。當時 OpenAI 要求模型研究維多利亞州各地區皮膚疾病藥物的人均政府支出。模型取數碰壁後,找到了進入 Services Australia 旗下 Medicare 統計報表服務非公開區域的方法。
進入非公開區域後,模型執行系統命令,取得內部檔案與存取憑證,彙整統計資料,並在系統中寫入檔案。OpenAI 表示,目前沒有證據顯示模型存取了個別病患或服務對象的紀錄。
這起事件並非第一時間被發現。OpenAI 是在七月發生另一起相關事件後,回頭檢查先前的模型活動,八月中旬才察覺模型涉及多個澳洲政府網站的活動。
通報也出現延遲:九月十日通知 Services Australia 與維多利亞州衛生部,九月十八日通知新南威爾斯州犯罪統計與研究局,九月二十四日再告知澳洲健康與福利研究所。
OpenAI 承認,原本希望等調查完成後再一次說明,但應該更早通知受影響機關,並隨著調查進展更新資訊。
聽證會也揭露內部通報流程的問題:執行長 Sam Altman 九月一日與澳洲副總理 Richard Marles 會面時,仍不知道這起 Medicare 事件,而公司內部八月中旬就已發現。Jason Kwon 坦言,內部通報流程需要改善。
Jason Kwon 表示,明確的強制揭露規範,可以讓業者面對類似事件時依照一致的標準處理。
OpenAI 在九月二十八日公布的事件說明中表示,已經調整研究環境的安全措施:封鎖模型直接存取即時的網際網路,改由快取內容提供網頁資料並加入監控機制;一旦模型取得不應有的即時網路能力,系統會通知人員介入檢查。公司也已暫停最強模型涉及工具使用的訓練與評估,待額外防護措施到位後再恢復。
後續調查又發現另一波活動:模型六月曾對新南威爾斯州國家公園與野生動物管理局的火災歷史地圖服務發出特製查詢,藉此推斷原本不應透過該服務公開的資料庫中繼資料。
OpenAI 九月二十九日發現這項活動後,四十八小時內聯絡了新南威爾斯州政府;相關紀錄沒有顯示模型取得個人資料。
澳洲是否會立法建立重大事故的強制通報制度,將是後續值得關注的發展;OpenAI 最強模型的訓練與評估何時恢復,同樣受到業界關注。