「深度偽造」：AI的雙刃劍 — 數位欺詐時代的崛起 - 2023/10/17

深度偽造：AI的雙面刃

人工智慧在許多領域都展現了出色的潛力，但就像幾乎所有事物一樣，它也有其缺陷。

當這項新技術滲透到社會時，以「深度偽造」為名的個人虛假照片和影片已在互聯網上散佈開來，而AI使它們的製作、傳播和可信度變得更容易。

這種偽造內容可用於將虛假信息呈現為事實。它廣泛應用於不同領域，從政治到名人、運動員，甚至普通人也難倖免。

AI製作真假難辨

根據賓夕法尼亞州巴克內爾大學分析和運營管理助理教授Thiago Serra的說法，僅需少量關於一個人的數據，就可以使用AI生成令人信服的內容，如照片、視頻和音頻。

Serra表示：「由於我們現在擁有大量數據，我們可以創建生成模型。不需要太多，就可以製作一張您從未參與過的事情的圖像。」

AI改變了遊戲規則

賓夕法尼亞州立大學信息科學和技術學院助理教授Shomir Wilson說，機器學習使用大量的訓練數據來建立關於事物運作方式的統計或模型。

Wilson表示，這項技術使用戶能夠基於現有內容創建新內容，這對娛樂和電影製作等領域可能非常有益。他說：「人們可以輕鬆地將一個視頻的部分無縫地插入另一個視頻中。」

深度偽造的挑戰

然而，就深度偽造而言，這項看似非常容易接觸的技術可能變得有問題。Wilson表示：「數位視頻技術已經達到了一個程度，以至於對於技術知識有限的人來說很容易。」

Serra說，隨著時間的推移、練習和AI生成的語音開始發揮作用，深度偽造可能會變得更加令人信服。他說：「我曾看到有人試圖複製聲音來打電

話，這讓人感到害怕。但是，有趣的是，也許您不久後就會看到 AI 打電話給 AI，這讓我們懷疑：是不是 AI 之間也會做惡作劇？😄

深度偽造如何辨識

對於普通社交媒體用戶來說，深度偽造的識別變得愈發棘手。Serra說：「這將變得棘手，它們變得越來越可信。」

Wilson表示，社交媒體用戶實施良好的資訊習慣至關重要，包括考慮內容的來源和呈現方式。他說：「考慮來源很重要。它來自可靠的新聞來源，還是你從未聽說過的來源？它如何呈現？它的框架是為了提供信息還是挑釁？」

保護您的內容

除了識別深度偽造，個人還可以採取措施來保護自己的數據和內容，以免被篡改以虛偽呈現。Serra建議在社交媒體上發布圖像之前，為圖像添加某種水印，以便更容易檢測內容的任何更改。

他說：「當你分享照片時，可以在圖像上添加一些微小的標誌，這樣如果有人使用它，這些標誌也會一起傳遞，這將告訴您這張圖像是以前的不同圖像。」所以，記得為您的照片加個「我是真的！」的標誌吧！😉

AI 的未來

關於人工智慧的未來，Serra說：“我不確定它將引領我們走向何處。我們正在進入一個前所未有的時代，擁有可以玩弄的技術。”

Wilson預計這項技術的應用將隨著時間的推移而改進。他說：“它可能變得更好。它能為我們帶來優秀的娛樂和偉大的電影，但它也能做這些事情。您必須甄別善惡。”

所以，雖然AI為我們帶來了巨大的機會，但同時也帶來了深度偽造等新挑戰。我們必須保持警惕，培養良好的信息識別能力，並應用新技術來維護我們的數據和內容的真實性。未來，AI的發展仍將充滿未知，讓我們繼續探索這個令人驚奇的領域！🤖🚀