為了維護 YouTube 健康的資訊生態，Google 制定長遠政策，禁止透過技術手段操縱、誤導觀眾，也可能移除造成傷害的內容。面對生成式 AI 技術帶來的種種風險，Google 祭出新規則因應。

網路上有越來越多 AI 生成影片，內容描繪某個從未發生的事件、或者某人從未說過的話、做過的事，造成不實資訊傳播。

為此 Google 要求創作者在 YouTube 上傳影片時，明確指出內容是否經過變造、合成或使用 AI 生成工具。如果創作者選擇不揭露相關資訊，YouTube 可能加以處置，做法包括移除影片、停權創作者的 YouTube 合作夥伴計畫資格等。

對觀眾而言，如果影片可能經過變造或合成，Google 會在 YouTube 說明面板新增標籤，標示部分內容經過數位修改或生成，至於涉及敏感議題等特定內容類型，Google 會在 YouTube 影片播放器加上更顯眼的標籤。此外，由 YouTube 生成式 AI 產品或功能所創作的內容，都會明確標示為變造或合成內容。

除此之外，觀眾、創作者以及公眾人物都對於生成式 AI 這樣的新興科技帶來影響有所疑慮，尤其當自己的臉孔或聲音在未經同意情況下被變造、合成，甚至自己的觀點遭到曲解。

未來幾個月內，若 YouTube 影片由 AI 生成、經過變造或合成，尤其可辨識臉孔、聲音等個人身分的內容，用戶可以根據隱私權申訴程序要求移除，Google 將會多方考量審核申訴。此外針對音樂合作夥伴，如果發現 AI 產生的音樂模仿歌手的獨特歌聲或饒舌內容，音樂合作夥伴可以要求移除。

Google 結合機器學習技術和人工判讀來落實 YouTube《社群規範》，系統採用 AI 分類器，先大規模偵測可能違反規範的內容，再由 Google 全球超過 2 萬名審查人員確認內容是否確實違反規範。面對生成式 AI，Google 擴大訓練 AI 分類器的資訊集，能在更短時間內辨認有疑慮的內容。

（首圖來源：YouTube Blog）