紐約市議會於美東時間10月5日舉行人工智慧安全風險聽證會，OpenAI、Anthropic、Google與Meta的代表透過視訊方式宣誓作證，就大型語言模型的安全風險與透明度接受市議會議員詢問。同一天，市議會也對多項人工智慧監管草案展開審議，內容涵蓋第三方驗證、人工關閉機制、安全事故通報與違規檢舉獎勵等面向。
其中最受關注的草案規定，任何在紐約市行銷、販售或部署的人工智慧模型，都必須先接受獨立第三方的驗證。驗證項目包括模型的實際表現、資料來源與處理方式、偏誤檢測、隱私保護與安全性等。若模型沒有通過驗證，或不具備可由人工操作人員暫時或永久停止運作的技術能力，就不得在紐約市銷售或部署，違者可能面臨民事罰款。
在聽證會上，議員要求業者說明大型人工智慧模型失控的可能性、透明度不足以及安全防護等問題，也追問業者如何評估可能造成重大傷害的風險。OpenAI代表Morgan Dwyer被問到模型造成災難性後果的機率時，沒有提出具體數字，但表示無論風險是百分之一、百分之十或百分之二十都不能接受，OpenAI也不應訓練無法充分證明仍受人類控制的模型。Anthropic代表Logan Graham則表示，州與地方政府可以參與制定人工智慧規範，該公司支持適當的監管措施。
這是四大人工智慧業者在近期一系列人工智慧安全爭議之後，首次以宣誓方式公開接受紐約市議會詢問，象徵地方政府對人工智慧治理的介入正在加速。紐約市議會強調，獨立驗證的目的，是在模型進入市場前，確認其行為是否符合安全與透明度要求。
除第三方驗證外，同步審議的其他草案還包括人工智慧資訊揭露與安全事故通報制度。部分條文要求承接涉及人工智慧的紐約市政府合約業者，在知悉符合通報條件的安全事故後，必須在24小時內通知市府資安單位。另有一項提案打算建立人工智慧違規檢舉獎勵制度，若檢舉內容促成市府開罰或提起民事訴訟，檢舉者可以取得追回款項的一部分。
相關立法提案於9月25日對外公布，10月5日的聽證會則讓主要人工智慧業者正式就監管內容與模型安全問題向市議會作證。目前相關草案仍在紐約市議會的立法程序中，實際適用範圍與最終條文都還有調整空間。外界認為，這批草案的走向，將是觀察美國地方層級人工智慧監管如何落地的指標。
