跳到主要內容

「深度偽造」:AI的雙刃劍 — 數位欺詐時代的崛起 - 2023/10/17


深度偽造:AI的雙面刃

人工智慧在許多領域都展現了出色的潛力,但就像幾乎所有事物一樣,它也有其缺陷。

當這項新技術滲透到社會時,以「深度偽造」為名的個人虛假照片和影片已在互聯網上散佈開來,而AI使它們的製作、傳播和可信度變得更容易。

這種偽造內容可用於將虛假信息呈現為事實。它廣泛應用於不同領域,從政治到名人、運動員,甚至普通人也難倖免。

AI製作真假難辨

根據賓夕法尼亞州巴克內爾大學分析和運營管理助理教授Thiago Serra的說法,僅需少量關於一個人的數據,就可以使用AI生成令人信服的內容,如照片、視頻和音頻。

Serra表示:「由於我們現在擁有大量數據,我們可以創建生成模型。不需要太多,就可以製作一張您從未參與過的事情的圖像。」

AI改變了遊戲規則

賓夕法尼亞州立大學信息科學和技術學院助理教授Shomir Wilson說,機器學習使用大量的訓練數據來建立關於事物運作方式的統計或模型。

Wilson表示,這項技術使用戶能夠基於現有內容創建新內容,這對娛樂和電影製作等領域可能非常有益。他說:「人們可以輕鬆地將一個視頻的部分無縫地插入另一個視頻中。」

深度偽造的挑戰

然而,就深度偽造而言,這項看似非常容易接觸的技術可能變得有問題。Wilson表示:「數位視頻技術已經達到了一個程度,以至於對於技術知識有限的人來說很容易。」

Serra說,隨著時間的推移、練習和AI生成的語音開始發揮作用,深度偽造可能會變得更加令人信服。他說:「我曾看到有人試圖複製聲音來打電

話,這讓人感到害怕。但是,有趣的是,也許您不久後就會看到 AI 打電話給 AI,這讓我們懷疑:是不是 AI 之間也會做惡作劇?😄

深度偽造如何辨識

對於普通社交媒體用戶來說,深度偽造的識別變得愈發棘手。Serra說:「這將變得棘手,它們變得越來越可信。」

Wilson表示,社交媒體用戶實施良好的資訊習慣至關重要,包括考慮內容的來源和呈現方式。他說:「考慮來源很重要。它來自可靠的新聞來源,還是你從未聽說過的來源?它如何呈現?它的框架是為了提供信息還是挑釁?」

保護您的內容

除了識別深度偽造,個人還可以採取措施來保護自己的數據和內容,以免被篡改以虛偽呈現。Serra建議在社交媒體上發布圖像之前,為圖像添加某種水印,以便更容易檢測內容的任何更改。

他說:「當你分享照片時,可以在圖像上添加一些微小的標誌,這樣如果有人使用它,這些標誌也會一起傳遞,這將告訴您這張圖像是以前的不同圖像。」所以,記得為您的照片加個「我是真的!」的標誌吧!😉

AI 的未來

關於人工智慧的未來,Serra說:“我不確定它將引領我們走向何處。我們正在進入一個前所未有的時代,擁有可以玩弄的技術。”

Wilson預計這項技術的應用將隨著時間的推移而改進。他說:“它可能變得更好。它能為我們帶來優秀的娛樂和偉大的電影,但它也能做這些事情。您必須甄別善惡。”

所以,雖然AI為我們帶來了巨大的機會,但同時也帶來了深度偽造等新挑戰。我們必須保持警惕,培養良好的信息識別能力,並應用新技術來維護我們的數據和內容的真實性。未來,AI的發展仍將充滿未知,讓我們繼續探索這個令人驚奇的領域!🤖🚀


留言

這個網誌中的熱門文章

小畫家迎來史上最大更新!增加圖層和PNG透明度支援 - 2023/09/19

小畫家迎來史上最大更新!增加圖層和PNG透明度支援 微軟的小畫家 app 從近 38 年前的 Windows 1.0 時代以來,就一直是 Windows 系統中不可或缺的一部份,不過撇除獨立的小畫家 3D 不論,其實小畫家 app 這些年來的更新都不算太大,也就是多了筆刷和形狀而已。太無趣了,不是嗎?但是,別急!現在,小畫家將要迎來史上最大的更新了!😱 在一篇部落格文章中,微軟產品經理 Dave Grochocki 宣佈了小畫家將增加兩個重要的新功能,一個是「圖層」,而另一個則是對 PNG 透明度的支援。 圖層 —— 讓你畫圖更方便!🎨 圖層的引入對於小畫家來說是一個多麼重大的變革,之前小畫家都沒有圖層,所有的筆觸都會影響整個圖片,根本就毫無自由度。但是現在有了圖層之後,儘管依然陽春,你終於可以不用太在意筆觸的順序,隨意修改不同圖層上的物件了!是不是感覺自由得像一隻鳥啊?🐦 要使用圖層只需要點選上方的「圖層」工具,就能在右側簡單地看到目前所有的圖層。隨便用右鍵選單中的「隱藏」、「複製」或是「合併」,你就可以輕鬆操作圖層了!當然,這個功能不能跟專業的影像軟體相提並論,但對於一些簡單的工作,比如增加文字,已經足夠方便啦! PNG透明度支援 —— 讓你的圖片更神奇!✨ 有了圖層之後,透明PNG檔可就有了真正的應用價值啦!再加上微軟稍早推出的背景移除功能,你可以輕鬆把被移除的部分變成透明,然後將圖層堆疊起來,讓圖片更加有趣神奇!🎉 目前這個更新將先來到加入 Windows Insider 計畫的用戶,等確定都沒有問題之後,才會開放給所有用戶。小畫家維持了近 40 年的單圖層設計,實在是不方便易懂。不知道多了圖層之後,會不會有更多人用它來進行簡單的創作呢?等待著吧! 小畫家向前衝!增加影像自動去背功能 Windows 內建軟體中,Microsoft 小畫家堪稱最傳奇的一款。從 1985 年 Windows 1.0 發表以來,小畫家就一直是系統中的一部分,而且在之後的每個 Windows 版本中都屬於核心部分。微軟曾經試圖在 2017 年時賜死小畫家,但是卻沒有成功,從那時起,該公司換個方式,重新設計了該應用讓它能與 Windows 11 擁有搭配的 UI。但是,小畫家也真的需要些新功能啊! 全新技巧 —— 影像自動去背,輕鬆成功!🔍 微軟在最近為小畫家推出不少更新,...

TAIDE計畫升級!AI對話引擎霸氣登場 - 2023/09/06

【幽默觀點】TAIDE計畫升級!AI對話引擎霸氣登場 😎 大家有福啦!國科會號召的TAIDE計畫又有新進展了喔~這個專為台灣設計的AI對話引擎即將在9月開放公部門應用測試,然後10月就會提供測試帳號囉!別小看它,初期可幫我們處理英翻中、自動摘要、寫Email,甚至出題目產生文章等任務,未來更有無窮可能性!一起來揭開TAIDE的神秘面紗吧!🤩 【風險防範?】公家機關也要用AI啦!瘋狂日期公布 📆 為了防範AI引發的風險,我們的政府公部門最近可是搞得不亦樂乎!國科會在7月中旬公告的公務機關AI使用指引草案,行政院在8月31日竟然宣布通過!這表示未來的公務機關在使用AI時,要有一套守則可以遵循,讓大家都能安心用,不用怕怕!而且還能促進其他機關參考制定自己的管理規範呢!😮 【台灣專屬!】TAIDE強勢登場,開啟測試新紀元!🚀 不只是公務機關,TAIDE對台灣的意義更大!今年上半年,國科會號召國內學術團隊和其轄下機構,共同投入TAIDE計畫的打造!這個生成式AI對話引擎可是我們台灣特有的,融入了我們的語言、價值觀、風俗習慣等元素,懂得聽台灣使用者的心聲,超有感啊!加上正體中文的多元訓練素材,它的表現更是越來越強大!現在9月終於開放測試,想體驗TAIDE的魅力嗎?趕緊報名試用吧!🎉 【衝破預期!】TAIDE開放測試超越你的想像!✨ TAIDE的發展可不是小菜一碟!這個項目以法國的開源大模型BLOOM為基礎進行調教,不過後來改用了更厲害的Meta開源項目Llama!這讓TAIDE變得更強大!最近他們終於有了重大突破,因為Meta在7月中旬開放了商業授權,這可讓他們打造商用版的TAIDE模型更順利啊!Taide-llama2-13B-Chat模型的表現也相當不錯的!!經過大家的關注與支持,TAIDE的整體進度越來越順利啦!💪 【神奇功能!】TAIDE讓你輕鬆生活,一機在手玩轉四項超能力!🦸‍♀️ TAIDE可不只是美顏啦,它的功能多到讓你嘆為觀止!現在已經能幫助我們處理辦公室四項日常生產力工作:中英翻譯、自動摘要、寫Email,還有一個超酷的功能,你說出題目,它直接幫你產生作文!就連修改作文,也有驚人的效果!文句通順、句子不重複,完全秒殺!超乎預期吧!快來體驗這奇幻功能吧~9月初就開始邀請部會報名,9月中就開放試用申請報名,預計10月初就會提供測試帳號,玩得開心,學...

AI自動化:💡未來的趨勢 - 2023/09/01

人工智慧(AI)的崛起已經改變了我們的生活方式,從個人使用的智能助理到工業界的生產線自動化,AI的應用範圍正在不斷擴大。隨著技術的不斷進步和創新,AI自動化將成為未來的主要趨勢,為我們的世界帶來更多便利和效率。 1. 🏭 工業應用: AI自動化在工業界的應用已經取得了巨大的成就。例如,在生產線上,AI可以通過機器視覺和機器學習來自動檢測產品缺陷,提高品質控制的效率。此外,AI也能夠通過預測維護來減少機器的故障並提高生產線的運行時間。 2. 📊 數據分析: 隨著大數據時代的到來,數據分析成為了各行各業的關鍵。AI的自動化技術可以幫助企業快速有效地進行數據分析,從而提供更準確的商業洞察,加強決策的依據。透過機器學習和自然語言處理,AI可以從龐大的數據中提取關鍵信息,為企業提供寶貴的意見和建議。 3. 📱 虛擬助手: AI自動化也在我們的個人生活中扮演著越來越重要的角色。虛擬助手如Siri、Alexa和Google Assistant等已經成為我們日常生活中的不可或缺的伙伴。它們利用機器學習和自然語言處理的技術來理解和回答人們的問題,幫助我們處理各種日常任務。未來,虛擬助手將變得更加智能化和個性化,並在我們的生活中發揮更大的作用。 4. 🚗 自動駕駛: 自動駕駛是AI自動化領域中最受矚目且潛力巨大的應用之一。隨著電動車的普及和技術的進步,自動駕駛汽車將成為未來交通系統的一部分。AI可以通過感測器、機器視覺和無人機技術來實現車輛的自主行駛,提高交通安全和效率,並減少交通擁堵問題。 結論: AI自動化正迅速改變我們的世界,從工業應用到個人生活的方方面面。這些趨勢不僅為我們帶來了便利和效率提升,同時也帶來了新的挑戰和機遇。我們需要在技術發展的同時,也關注倫理和隱私議題,確保AI自動化的應用能更好地服務於人類的利益。讓我們共同期待AI自動化未來的發展,並充滿期待地迎接這個科技革命帶來的無限可能性!🌟🌍