法案要求國家情報總監通過情報高級研究計劃局局長實施一項有競爭力的獎勵計劃，刺激技術的研究、開發或商業化，以自動檢測被機器操縱的媒體，可向競賽的一名或多名獲獎者頒發500萬美元以內的獎金。 據美國國際戰略研究中心（CSIS）官網10月23日消息，CSIS發佈《Trust Your Eyes? Deepfakes Policy Brief – 深度僞造技術政策簡報》報告。 “深度僞造”(Deepfake)是“deep learning”(深度學習)和“fake”(僞造)的混合詞，即利用深度學習算法，實現音頻和視頻的模擬和僞造。 最終，重要的是要創建可靠的檢測深度僞造的方法，並且這些檢測方法要跟上深度僞造技術的最新進展。 雖然很難確切知道深度僞造的影響是什麼，但如果沒有可靠的方法來檢測深度僞造(和其他形式的虛假媒體)，錯誤信息可能會猖獗並降低人們對社會和機構的信任。 雖然這些跡象目前可能有助於發現一個深度僞造，但隨着深度僞造技術改進了可靠的深度僞造檢測的唯一選擇，可能是其他類型的AI經過訓練以區分假貨和真實媒體。
這些公司的假新聞政策有無得到妥善執行，這個問題是值得大家注意。 中國沒有新聞自由，專業記者要對一些謠傳作出核實都有相當高難度，因此中國尤其多政治陰謀論流傳，這點基本上是縱容了利用Deepfake搞假消息。 而利用Deepfake技術，亦是擅於製造假新聞的俄國情報部門的明顯技倆，相信中國要運用有關技術也並不困難。 李建軍：雖然這次俄國黑客玩Deepfake手法相當粗糙而被揭發，但以中國和俄國的技術水平，遲早都會發生以Deepfake技術搞亂網絡輿論的事件。 特別YouTube、Facebook等公司負責中文內容的人，對假新聞近乎是「零把關」，任由內容農場甚至中國大外宣製造的假新聞四處流竄，情況只會越來越糟糕。
丘涵 deepfake: 安全客
在國內目前主流的各大社交媒體平臺，微博、抖音、快手、B站等，也可以看到Deepfake技術無處不在。 丘涵 deepfake2025 同時，比起一幀一幀換臉的傳統模式，2019年開始以Deepfake技術爲主的開源軟件FaceApp、ZAO、Github開源代碼等的興起，一經發布便在網絡掀起第一輪“換臉”熱潮。 隨着AI、面部識別以及3D建模和動作/表情捕捉相關技術的發展，近兩年，虛擬數字人以各種身份形象出現在我們的視野中。 然而當Avatar與真人越來越接近，不只看起來像，連表情、聲音都能和真人一摸一樣，那未來這些技術被用來作惡的風險也將大大提升。 文章內容僅代表作者獨立觀點，不代表安全內參立場，轉載目的在於傳遞更多信息。
這個視頻主要使用了DeepFake技術，配合作者高超的視頻特效手法，製作出一個以假亂真的愛因斯坦視頻。 丘涵 deepfake Deepfake常用來偽造名人性愛影片和復仇式色情等等媒體[9]。 帶色情成份的Deepfake作品於2017年間在網際網路上流出，特別是在Reddit上[10]。 此後Deepfake作品被Reddit、Twitter和Pornhub等網站所禁止[11][12][13]。
丘涵 deepfake: 名人公開影像多 成為訓練深偽好素材
自動編碼器是神經網絡的一種，其基本思想就是直接使用一層或者多層的神經網絡對輸入數據進行映射，得到輸出向量，作爲從輸入數據提取出的特徵。 基本的自編碼器模型是一個簡單的三層神經網絡結構：一個輸入層、一個隱藏層和一個輸出層。 自動編碼器本質上是一種數據壓縮算法，其中數據的壓縮和解壓縮函數是數據相關的、有損的、從樣本中自動學習。 雖然大多數人在聽到“深度僞造”一詞時會想到假視頻，但假視頻絕不是唯一一種使用深度僞造技術製作的假媒體。 丘涵 deepfake2025 丘涵 deepfake 人們認爲，有很多假LinkedIn和Facebook個人資料的個人資料圖像是使用深度僞造算法生成的。
- 因為本條規範的客體是兒童或少年為性交、猥褻行為的影片，實際為性交、猥褻行為的人是成年人，若只是臉被換成未成年人，就會變成未成年人做出性交、猥褻行為嗎？
- 同樣的，算法的一個組成部分是各種“遞歸神經網絡”，它能將有問題的圖像分割成小塊，然後逐像素觀察這些小塊。
- Deepfake最早獲得關注是在2017年，有一個Reddit用戶利用deepfake技術將色情視頻中的女主角換成了名人的臉。
- 來自世界各地的研究團隊致力於檢測深度僞造的方法，競相開發最佳檢測方法。
- 當被問到做到如此逼真的效果，是不是有什麼獨門祕籍還是純靠氪金的時候，Chris說都沒有，可能唯一的祕籍就是：耐心和恆心。
在Deepfake的場景下，通過使用生成對抗網絡可以生成更逼真的圖像/視頻。 但是在過去要使用Deepfake進行生成時，需要額外的信息。 比如，如果想要生成頭部的移動，則我們需要臉部的landmark，如果想要生成全身的移動，還需要姿勢估計(pose-estimation)。 此外，使用這些傳統技術如果想把源臉替換到目標臉上的話，需要使用大量的雙方人臉圖像的數據進行事先訓練訓練。
丘涵 deepfake: 訓練損失
「隨著不斷推陳出新的深偽模型，將會導致詐騙層出不窮。儘管有些生成的影像和聲音的品質不佳，但在手機上播放，由於銀幕的大小，以及影片解析度有限，民眾仍難判斷其內容是否被動過手腳。」陳駿丞指出。 隨著近年來深度學習技術模型技術「生成對抗網路模型」（GAN）的快速發展，大幅提升做出高仿真內容偽造的效能，更降低其製作內容的門檻。 上述案例表明，國內各地法院對deepfake的侵權認定及判賠標準大致統一。 丘涵 deepfake 開發運營者利用deepfake技術侵害他人肖像權，在刪除侵權視頻後，需承擔賠禮道歉、賠償損失的責任。 賠償金額根據涉案視頻肖像的商業價值、涉案侵權視頻數量、被告的過錯程度等因素綜合酌定。 如果世界上所有的東西都可以僞造，必然引發會引發大混亂，人們不會再相信看到的，聽到的任何信息。
- 最終，雖然深度僞造技術有合法用途，但濫用該技術可能會產生許多潛在危害。
- 比如，如果想要生成頭部的移動，則我們需要臉部的landmark，如果想要生成全身的移動，還需要姿勢估計(pose-estimation)。
- 特朗普本人也難逃一劫，西雅圖電視網曾播放過一段Deepfake的特朗普演講視頻，視頻中特朗普滿臉通紅，還不時做一些滑稽的表情。
- 擅自以公開口述、公開播送、公開上映、公開演出、公開傳輸、公開展示、改作、編輯、出租之方法侵害他人之著作財產權者，處三年以下有期徒刑、拘役，或科或併科新臺幣七十五萬元以下罰金。
造假者不得不花很長時間手動調整模型的參數，因爲次優參數會導致明顯的缺陷和圖像故障，從而暴露假貨的真實性質。 大部分DeepFake的研究都是基於生成對抗網絡的，一個生成器，一個檢測器，生成器生成假內容，然後詢問對應的檢測器內容是否是真實的，二者不斷的互動來提高生成的內容質量。 丘涵 deepfake2025 深偽技術（英語：Deepfake）又稱深度偽造，是英文「deep learning」（深度學習）和「fake」（偽造）的混成詞[1]，專指基於人工智慧的人體圖像合成技術的應用。
丘涵 deepfake: 關鍵點檢測器
雖然視頻中的對口型還過得去，但觀衆很快就指出，澤連斯基的口音不對，仔細觀察他的頭部和聲音並不真實。 以近期破解的馬斯克深偽影片為例，許志仲老團隊的分析結果顯示，馬斯克的影片有高可能性是利用 Deep fake 產生。 丘涵 deepfake 在查覈深偽影片的過程中，查覈中心多次與許志仲老師合作，以老師的團隊所開發的偵測技術，協助辨認影片是否含有深偽技術。 深偽內容的氾濫，早成為詐騙的犯罪手法，近期就有詐騙方利用Deepfake影片詐騙金錢、感情的案例，演變成另一場科技犯罪風暴。
丘涵 deepfake: 視頻僞造
本篇採訪成功大學統計系教授許志仲、中研院資訊創新研究所助理研究員陳駿丞，提供4招辨認深偽影片的技巧；專家也提醒，民眾須認識深偽技術，保持警覺意識，纔是打假的第一步。 美國法以各州立法及判例法的形式形成了個人形象權的法律保護體系。 丘涵 deepfake 造假：國外選舉期間，網絡上出現大量“政治視頻”，其中許多利用Deepfake技術發表政治聲明，從而動搖、影響選舉局面等。
丘涵 deepfake: 檢測
深度僞造已成爲人工智能倫理、錯誤信息、信息和互聯網的開放性以及監管等討論的焦點。 本文將闡明深度僞造的定義，檢查其用例，討論如何檢測深度僞造，並檢查深度僞造對社會的影響。 Deepfake（深度偽造技術）目前沒有完全禁止深度偽造的法律，因此只要您不濫用它們，就不會遇到任何麻煩。 但如果您使用深度偽造來損害某人的聲譽或進行身份盜用，很可能會面對嚴重法律後果。 我國未來的立法方向，可以對數位性暴力、性霸凌有針對性的立法。
丘涵 deepfake: 犯罪細節
加州大學河濱分校的學者也提出了檢測Deepfake僞造圖像的新算法。 同樣的，算法的一個組成部分是各種“遞歸神經網絡”，它能將有問題的圖像分割成小塊，然後逐像素觀察這些小塊。 神經網絡經過訓練可以檢測出數千幅Deepfake圖像，它找到了贗品在單像素水平上的一些特質。
丘涵 deepfake: 技術服務
使用了兩個解碼器，一個在原始主體的臉上，第二個在目標人的臉上。 爲了進行交換，在人X的圖像上訓練的解碼器被輸入了人Y的圖像。 丘涵 deepfake2025 同時，深度僞造技術需要獲取大量人臉圖像中的特徵數據，而人臉信息屬於法律予以特殊保護的生物識別信息，使用人臉信息要獲得肖像權人的單獨授權。 一審法院認爲：（i）肖像權屬於自然人的人格權，未經本人同意，不得擅自使用他人肖像；（ii）被告經營的軟件以“換臉”爲主要功能和賣點，利用基於他人形象拍攝製作的素材引流，誘導用戶點擊下載、付費。 綜上，成都鐵路運輸第一法院在四起案件中作出判決，支持原告主張（因被告已刪除涉案視頻），判令被告侵權成立。 Deepfake是一種利用人工智能應用程序製作地逼真的合成音視頻，這些程序可以合成僞造的圖像和聲音，描繪人們從未做過和從未發生過的事情。
丘涵 deepfake: 技術背景
但如果是軟蕊影片，因為有需求的人才會被邀入羣組、才會找販賣者購買相關商品。 如果不是放在一般未有隔絕措施（最常見的隔絕措施是跳出18禁警告畫面）的網頁陳列，即屬於有適當隔絕措施，而不會構成本條犯罪。 丘涵 deepfake2025 大法官釋字617的意思就是，猥褻物品分「硬蕊」和「軟蕊」兩種，兩種處理方式不同。
丘涵 deepfake: 犯罪隱憂
雖然此騙局很快被拆穿，但作爲幣圈大粉頭，馬斯克也不是第一次因被假冒而下場闢謠了，從去年5月至今年年初，假冒馬斯克的視頻層出不窮。 這一步很關鍵，至於爲什麼關鍵是因爲我之前一直死在這裏，所以這次探險不知道會不會有掛在這裏，所以我決定直接把安裝包WHL文件下載到本地安裝（具體做法略）。 丘涵 deepfake2025 使用AI讓已故名人“起死回生”已經不是一件新鮮事了，但“從沒人見過如此鮮活多彩的愛因斯坦影像”，Chris說。 李建軍：首先，YouTube以至Facebook等公司，他們的管理人員的保安，應該得到正視，例如同中共關係太密切的人，根本不應該在這些公司的內容審查部門任職。
但Deepfake的軟件，沒有理由可以售予中國和俄國相關人士，甚至過往日本、韓國都有利用類似技術，偽造著名女星片段的事件，最後引起執法部門的注意。 以往，在情侶之間經同意拍攝性愛影片，而分手後被其中一方上網散佈的狀況，也只能適用《刑法》第235條第1項的散佈猥褻物品罪處罰。 而這一條法律規範目的是在保護善良風俗，屬於保護社會法益，而非針對被散佈性愛影片被害人的保護。 以上可能涉及的刑法規範中，法律的規範目的，除了妨害名譽和個人資料保護法以外，都不是在保護被換臉的被害人。 Deepfake的成人影片如果是未滿18歲之人所拍攝的影片，被換上成年人的臉，還是會構成本條犯罪，但如果是成年人拍攝的影片，被換成未成年人的臉，究竟會不會構成本條犯罪，可能有其疑義。
可以觀察連續撥放影片過程中的人物臉部狀態，特別是嘴型可能會出現不太連續，或是開合不自然，就可能是深偽影片。 丘涵 deepfake2025 某些深偽技術，並沒有辦法讓說話者的聲音與嘴部影像達到十分吻合與同步。 事實上，網路上也有開源的深偽偵測工具，如國外開發的偵測軟體「DeepWare」，民眾都能免費自行使用。 例如，查覈記者也實際用「DeepWare」偵測馬斯克的深偽影片，結果顯示，影片高度可能含有深偽技術。
丘涵 deepfake: 關鍵代碼
然後將經過訓練的網絡用於另一個人的圖像，並用額外的計算機圖形技術進行增強，以便將新人與原始鏡頭結合起來。 一旦分離出面部的共同特徵，就會使用稱爲解碼器的第二種AI算法。 丘涵 deepfake 解碼器檢查編碼(壓縮)圖像並根據原始圖像中的特徵重建它們。
丘涵 deepfake: 視頻
如果您需要如何使用Lensa AI的幫助，請參閱附帶的指南。 深度偽造在電影和時尚等行業中有著積極的用途，然而它也常被用於惡劣目的，例如撒謊、偽造名人視頻，甚至影響選舉。 2019年，深度偽造語音被用於執行騙局，從一家英國公司盜取了243000美元。 它們可能威脅到網絡安全措施、政治穩定以及公司和個人的聲譽和財務。 張衛明，中國科學技術大學教授、博導，網絡空間安全學院副院長，圖象圖形學學會多媒體取證與安全專家委員會副祕書長。
隨着Deepfake技術的發展，互聯網上充斥着大量包含僞造人臉的虛假視頻，Deepfakes類技術的濫用帶來巨大的負面影響，本文給出一些典型檢測思路及方案。 針對Deepfake的成人影片中，被換臉的被害人，似乎都只能透過其他保護目的不相同的現存法規，來達到處罰行為人的效果。 這種數位性暴力、性霸凌的保護規範不足現象，已不是第一天發生的問題。 以往我國不承認成人影片有著作權，但近幾年來法院見解變更，承認成人影片也有著作權，所以Deepfake的成人影片，換臉可能屬於改作的範圍，而屬於以改作侵害他人著作財產權，因此構成本條犯罪。 丘涵 deepfake 不過，這是告訴乃論之罪，可以提出訴訟的還是成人影片商，而非遭換臉的人。
查覈中心近期破解一支冒充成特斯拉總裁馬斯克（Elon Musk）的深偽影片。 影片中的「馬斯克」神情恍惚，他自稱嗑藥，又說「感覺超嗨，準備設計30輛嶄新的太空車去火星」。 某馬來西亞政治家因一段涉嫌從事同性戀活動的影片而被判入獄，但後來證實影片爲Deepfake僞造．．．．．．
丘涵 deepfake: CSIS報告：深度僞造 (Deepfake) 技術政策簡報
一名叫做“deepfakes”的Reddit平臺用戶在該平臺發佈AI合成的名人換臉視頻。 該模型經過交替優化訓練後，生成的深度僞造內容可以與真人形象無異，足以騙過人的眼睛。 深度僞造的關鍵要素是機器學習.機器學習使計算機能夠相對快速、輕鬆地自動生成視頻和音頻。 深度神經網絡在真實人物的鏡頭上進行訓練，以便網絡瞭解人們在目標環境條件下的外觀和移動方式。
因為本條規範的客體是兒童或少年為性交、猥褻行為的影片，實際為性交、猥褻行為的人是成年人，若只是臉被換成未成年人，就會變成未成年人做出性交、猥褻行為嗎？ 畢竟真正在影片裡為性交、猥褻行為還是該成年人，所以可能無法構成本條的犯罪，一樣是要回到《刑法》第235條和釋字617號解釋判斷。 散佈、播送或販賣兒童或少年為性交、猥褻行為之圖畫、照片、影片、影帶、光碟、電子訊號或其他物品，或公然陳列，或以他法供人觀覽、聽聞者，處三年以下有期徒刑，得併科新臺幣五百萬元以下罰金。
丘涵 deepfake: 檢測
Deepfake還可以用於社會工程和釣魚攻擊，提高攻擊的成功率。 隨着深度學習等人工智能技術的發展，加上ZAO這樣的免費APP，只需要幾秒鐘，每個人都可以換臉變成想要變成的人。 但生成高質量的deepfake音視頻仍需要專業的人員和軟件。 最終，雖然深度僞造技術有合法用途，但濫用該技術可能會產生許多潛在危害。 深度僞造可能會普遍削弱人們對媒體的信任，並使人們難以區分真實新聞和假新聞。 如果網絡上的許多視頻都是假的，政府、公司和其他實體就更容易對合法的爭議和不道德的做法產生懷疑。
丘涵 deepfake: 安全客
Deepfake的開源技術、以及“傻瓜式”實時換臉軟件的興起使得極具娛樂性的一些應用，例如換臉Cosplay火爆全網。 自2019年興起的以ZAO爲代表的換臉視頻軟件開始，Deepfake變得觸手可及。 根據創業公司Deeptrace的數據，從2019年10月到2020年6月，網絡上的Deepfake視頻的數量增加了330%。 當然這也引發了很多擔憂，尤其是政客和明星在網上有很多公開的視頻和圖片，容易被不法分子或者別有用心的人利用，很多國家也開始考慮制定相關政策，禁止發佈DeepFake製作的內容。 丘涵 deepfake 另一方面，可以用作搞Deepfake之用的軟件技術，是否應限制出口到俄國同中國，這點是值得深思。 丘涵 deepfake 丘涵 deepfake 做Deepfake的硬件，現時比較難作出限制，始終做Deepfake的硬件，都是一般人用的電腦和視像處理卡，總不可能嚴防到一個影響日常生活的程度。
丘涵 deepfake: 訓練損失
就像2016年的“虛假新聞”一樣，“deepfake”視頻將在2020年的美國大選中，掀起更強大的血雨腥風。 據《華爾街日報》報道，今年3月，有詐騙犯利用“AI換聲”技術仿造了英國某能源公司母公司首席執行官的聲音，成功誘騙公司高管通過匈牙利供應商向其轉賬22萬歐元（約173萬元人民幣）。 它們的效果將不僅取決於它們的說服力，而且還取決於否認一個深度假冒的時機和可信度。 DeepFake在特效行業釋放了巨大的生產力，特效工作者不用再一幀一幀的修改視頻，調整好參數，輸入文件，後面的工作都有機器學習來完成。 最後要選一個外貌相似者的視頻作爲基礎，然後把Deepfacelab學到的模型遷移到基礎視頻中，你可以簡單地把某人的臉換成別人的臉，或者改變視頻中人物說的話，並調整他們的嘴型使之匹配，就能生成以假亂真的視頻了。 當被問到做到如此逼真的效果，是不是有什麼獨門祕籍還是純靠氪金的時候，Chris說都沒有，可能唯一的祕籍就是：耐心和恆心。
