OpenAI將強化AI生成內容溯源與驗證體系，支援歐盟AI透明度準則

OpenAI 宣佈支援歐盟委員會發布的《AI 生成內容透明度實踐準則》（Code of Practice on Transparency of AI-Generated Content），旨在推動可信 AI 生態建設，並加強 AI 生成內容的來源追蹤與透明化，該準則是落實 European Union《AI 法案》（EU AI Act）的重要一步。此次支援建立在 OpenAI 多年來圍繞內容溯源（provenance）的研究、產品開發及生態合作基礎之上。 據介紹，OpenAI 自 2024 年起已開始在 DALL·E 3 影象生成工具中加入 C2PA 後設資料，用於標識 AI 生成內容來源。此後，OpenAI 持續完善內容標記、檢測技術，並推出公開驗證工具，幫助使用者判斷圖片是否包含與 OpenAI 生成內容相關的來源訊號。 OpenAI 表示，其目前採用多層次內容溯源方案，包括： 1、為 ChatGPT、Codex 及 API 生成圖片加入 C2PA Content Credentials； 2、在 AI 生成圖片中結合 C2PA 後設資料與 SynthID 水印，提高來源識別能力； 3、推出公開驗證工具，幫助使用者檢測支援的圖片是否包含 OpenAI 生成來源訊號； 4、參與 Coalition for Content Provenance and Authenticity (C2PA)標準建設，推動行業統一內容溯源規範。 OpenAI 指出，AI 內容溯源技術仍處於發展階段，後設資料可能因上傳、下載、格式轉換或截圖等操作丟失，水印也可能受到影響，因此需要整個行業共同推動更加可靠、互操作的驗證機制。OpenAI 將繼續加強產品中的內容透明度建設，參與開放標準制定，並與歐盟 AI 辦公室、成員國及全球 AI 社群合作，推動建立更加安全、透明和可信的 AI 生態。 [Odaily星球日報]