5點看懂: 第一,數位發展部正在推動社群平台揭露人工智慧生成內容,目標是防止深偽內容誤導民眾。 第二,標示機制共有三層:創作者主動揭露、平台自動偵測標示、政府與民眾檢舉補標。 第三,數位發展部認為部分平台的標示不夠顯眼,要求把標示移到更容易看到的位置。 第四,各平台的進度不同,Google進展較快,Meta仍在進行技術調整。 第五,除了標示之外,數位發展部也將推動人工智慧素養教育,幫助民眾自行辨認生成內容。
隨著深偽技術越來越普及,社群平台上以假亂真的影像與聲音也越來越多。數位發展部表示,正在推動各大平台落實人工智慧生成內容的標示,讓民眾一眼就能分辨眼前的內容是不是由人工智慧產生,進而建立更值得信任的網路環境,避免深偽內容誤導社會大眾。
數位發展部指出,過去一年來,相關單位已經與Meta、Google、Line、產業協會與專家多次討論,研商如何確保人工智慧生成內容獲得適當標示。討論的核心很務實:標示不能只存在於形式上,必須讓一般使用者在滑動頁面時就能注意到,否則就算平台宣稱有標示,實際效果仍然有限。
以影音平台為例,數位發展部點出一個具體問題:目前人工智慧生成內容的標示藏得太深,使用者必須點開影片說明的更多資訊才能看到,等於把辨認責任推回給使用者。數位發展部因此要求平台把標示直接放在影片下方,讓標示成為內容的一部分,而不是藏在需要額外點擊的角落。
數位發展部提出的三層標示機制,是這次推動方案的主軸。第一層是創作者主動揭露:創作者在上傳內容時,必須透過勾選等方式,表明內容屬於人工智慧生成。這一層仰賴創作者的誠實與配合,也是整個機制的第一道防線。
第二層是平台自動偵測標示。如果創作者上傳時沒有正確標示,但內容帶有人工智慧生成的跡象,平台應該透過技術偵測,主動為內容加上標示。數位發展部表示,現有技術已經有能力偵測人工智慧生成內容,平台不應該以技術困難為理由,完全放任未標示的內容流通。
第三層是檢舉管道。即使經過前兩層把關,仍然可能有內容漏網,例如創作者刻意移除內嵌的人工智慧標記,或是平台內容量太大,無法逐一篩查。因此,數位發展部希望建立政府與民眾都可以檢舉的管道,讓未標示的人工智慧生成內容能夠被補上標示;如果內容違反平台規範,也可以進一步採取處置。
如果人工智慧生成內容被用於詐騙,或是侵害他人權利,數位發展部表示,將與平台協調適當的處理方式,包括補上標示或移除內容。這意味著標示機制不只是資訊揭露,也與詐騙防治與權利保護連動,平台不能只做到標示,就認為責任已經了結。
在各平台的進度方面,數位發展部表示,Google的進展較快,Meta則仍在進行技術調整。至於Line,由於服務多半屬於私人通訊,標示工作初期將先聚焦在公開內容上,避免把私人對話也納入同一套標示框架。這樣的區分顯示,標示機制在不同平台上未必能用同一種方式推動,必須配合各平台的服務型態調整。
除了標示機制之外,數位發展部也將推動人工智慧素養教育,幫助民眾認識人工智慧生成內容的特徵與風險。標示可以提醒民眾注意,但最終的判斷仍在使用者身上;如果民眾具備基本辨認能力,就算遇到漏網的深偽內容,也比較不容易輕信或轉傳。
對一般民眾來說,在標示機制完全上路之前,也有一些自保的方法。看到情緒強烈、畫面過於完美或說法過於聳動的影片,可以先停下來查證,不要急著轉傳;透過不同來源比對同一件事的說法,也能降低被單一深偽內容誤導的機率。標示是平台的責任,查證則是每個使用者都可以養成的習慣。
深偽技術的門檻正在降低,過去需要專業設備與技術才能製作的逼真影像,現在一般人透過工具也有機會產出。這意味著深偽內容的數量只會增加,不會減少,單靠事後澄清已經不夠,必須在內容流通的當下就讓民眾有所警覺。標示機制的重要性,正是來自這種數量與速度的變化。
整體來看,三層標示機制的成敗,關鍵在於平台是否願意把標示放在顯眼位置,以及自動偵測與檢舉補標是否真的運作起來。後續值得觀察的包括:影音平台是否把標示移到影片下方、Meta的技術調整何時完成,以及檢舉管道上線後,民眾實際上能不能順利檢舉並看到處理結果。這些進度將決定這套機制是真的防護網,還是只停留在宣示層次。