跳到主要內容

「深度偽造」:AI的雙刃劍 — 數位欺詐時代的崛起 - 2023/10/17


深度偽造:AI的雙面刃

人工智慧在許多領域都展現了出色的潛力,但就像幾乎所有事物一樣,它也有其缺陷。

當這項新技術滲透到社會時,以「深度偽造」為名的個人虛假照片和影片已在互聯網上散佈開來,而AI使它們的製作、傳播和可信度變得更容易。

這種偽造內容可用於將虛假信息呈現為事實。它廣泛應用於不同領域,從政治到名人、運動員,甚至普通人也難倖免。

AI製作真假難辨

根據賓夕法尼亞州巴克內爾大學分析和運營管理助理教授Thiago Serra的說法,僅需少量關於一個人的數據,就可以使用AI生成令人信服的內容,如照片、視頻和音頻。

Serra表示:「由於我們現在擁有大量數據,我們可以創建生成模型。不需要太多,就可以製作一張您從未參與過的事情的圖像。」

AI改變了遊戲規則

賓夕法尼亞州立大學信息科學和技術學院助理教授Shomir Wilson說,機器學習使用大量的訓練數據來建立關於事物運作方式的統計或模型。

Wilson表示,這項技術使用戶能夠基於現有內容創建新內容,這對娛樂和電影製作等領域可能非常有益。他說:「人們可以輕鬆地將一個視頻的部分無縫地插入另一個視頻中。」

深度偽造的挑戰

然而,就深度偽造而言,這項看似非常容易接觸的技術可能變得有問題。Wilson表示:「數位視頻技術已經達到了一個程度,以至於對於技術知識有限的人來說很容易。」

Serra說,隨著時間的推移、練習和AI生成的語音開始發揮作用,深度偽造可能會變得更加令人信服。他說:「我曾看到有人試圖複製聲音來打電

話,這讓人感到害怕。但是,有趣的是,也許您不久後就會看到 AI 打電話給 AI,這讓我們懷疑:是不是 AI 之間也會做惡作劇?😄

深度偽造如何辨識

對於普通社交媒體用戶來說,深度偽造的識別變得愈發棘手。Serra說:「這將變得棘手,它們變得越來越可信。」

Wilson表示,社交媒體用戶實施良好的資訊習慣至關重要,包括考慮內容的來源和呈現方式。他說:「考慮來源很重要。它來自可靠的新聞來源,還是你從未聽說過的來源?它如何呈現?它的框架是為了提供信息還是挑釁?」

保護您的內容

除了識別深度偽造,個人還可以採取措施來保護自己的數據和內容,以免被篡改以虛偽呈現。Serra建議在社交媒體上發布圖像之前,為圖像添加某種水印,以便更容易檢測內容的任何更改。

他說:「當你分享照片時,可以在圖像上添加一些微小的標誌,這樣如果有人使用它,這些標誌也會一起傳遞,這將告訴您這張圖像是以前的不同圖像。」所以,記得為您的照片加個「我是真的!」的標誌吧!😉

AI 的未來

關於人工智慧的未來,Serra說:“我不確定它將引領我們走向何處。我們正在進入一個前所未有的時代,擁有可以玩弄的技術。”

Wilson預計這項技術的應用將隨著時間的推移而改進。他說:“它可能變得更好。它能為我們帶來優秀的娛樂和偉大的電影,但它也能做這些事情。您必須甄別善惡。”

所以,雖然AI為我們帶來了巨大的機會,但同時也帶來了深度偽造等新挑戰。我們必須保持警惕,培養良好的信息識別能力,並應用新技術來維護我們的數據和內容的真實性。未來,AI的發展仍將充滿未知,讓我們繼續探索這個令人驚奇的領域!🤖🚀


留言

這個網誌中的熱門文章

小畫家迎來史上最大更新!增加圖層和PNG透明度支援 - 2023/09/19

小畫家迎來史上最大更新!增加圖層和PNG透明度支援 微軟的小畫家 app 從近 38 年前的 Windows 1.0 時代以來,就一直是 Windows 系統中不可或缺的一部份,不過撇除獨立的小畫家 3D 不論,其實小畫家 app 這些年來的更新都不算太大,也就是多了筆刷和形狀而已。太無趣了,不是嗎?但是,別急!現在,小畫家將要迎來史上最大的更新了!😱 在一篇部落格文章中,微軟產品經理 Dave Grochocki 宣佈了小畫家將增加兩個重要的新功能,一個是「圖層」,而另一個則是對 PNG 透明度的支援。 圖層 —— 讓你畫圖更方便!🎨 圖層的引入對於小畫家來說是一個多麼重大的變革,之前小畫家都沒有圖層,所有的筆觸都會影響整個圖片,根本就毫無自由度。但是現在有了圖層之後,儘管依然陽春,你終於可以不用太在意筆觸的順序,隨意修改不同圖層上的物件了!是不是感覺自由得像一隻鳥啊?🐦 要使用圖層只需要點選上方的「圖層」工具,就能在右側簡單地看到目前所有的圖層。隨便用右鍵選單中的「隱藏」、「複製」或是「合併」,你就可以輕鬆操作圖層了!當然,這個功能不能跟專業的影像軟體相提並論,但對於一些簡單的工作,比如增加文字,已經足夠方便啦! PNG透明度支援 —— 讓你的圖片更神奇!✨ 有了圖層之後,透明PNG檔可就有了真正的應用價值啦!再加上微軟稍早推出的背景移除功能,你可以輕鬆把被移除的部分變成透明,然後將圖層堆疊起來,讓圖片更加有趣神奇!🎉 目前這個更新將先來到加入 Windows Insider 計畫的用戶,等確定都沒有問題之後,才會開放給所有用戶。小畫家維持了近 40 年的單圖層設計,實在是不方便易懂。不知道多了圖層之後,會不會有更多人用它來進行簡單的創作呢?等待著吧! 小畫家向前衝!增加影像自動去背功能 Windows 內建軟體中,Microsoft 小畫家堪稱最傳奇的一款。從 1985 年 Windows 1.0 發表以來,小畫家就一直是系統中的一部分,而且在之後的每個 Windows 版本中都屬於核心部分。微軟曾經試圖在 2017 年時賜死小畫家,但是卻沒有成功,從那時起,該公司換個方式,重新設計了該應用讓它能與 Windows 11 擁有搭配的 UI。但是,小畫家也真的需要些新功能啊! 全新技巧 —— 影像自動去背,輕鬆成功!🔍 微軟在最近為小畫家推出不少更新,...

亞馬遜入股 Anthropic:AI 攻勢再起,背後的關鍵是什麼? - 2023/10/06

AI 的趨勢:Amazon 投資 Anthropic,為何如此重要? 人工智慧(AI)不僅僅是華爾街上的新熱詞。從世界級企業到中小型企業,越來越多的公司為了不落後競爭對手,正在大力投資這項技術。 到目前為止,AI 最明顯的受益者之一是像微軟、谷歌、Nvidia 等大型科技公司。今年早些時候,微軟承諾對 ChatGPT(一款非常受歡迎的 AI 模型)的開發商 OpenAI 進行多年投資。此外,谷歌還在一家名為 Anthropic 的公司上進行了大量投資,該公司的聯合創始人正是來自 OpenAI。 電商和雲計算巨頭亞馬遜(AMZN -1.56%)效仿了谷歌的做法,成為 Anthropic 令人印象深刻的投資者陣容中的最新一員。現在,我們來看看亞馬遜為什麼如此渴望加入谷歌、Zoom 和 Salesforce 的行列,收購這家 AI 獨角獸的股份。 交易細節: 根據交易條款,亞馬遜將向 Anthropic 投資高達 40 億美元,從而成為這家初創的少數企業股東。Anthropic 從 2021 年開始一直是亞馬遜的雲端服務提供商 Amazon Web Services(AWS)的客戶。作為交易的一部分,Anthropic 將使用 AWS 作為其主要雲端提供商。更好的是,Anthropic 還將使用亞馬遜的晶片來訓練未來的 AI 模型。這對於亞馬遜的機器學習路線圖來說是一個重大的步驟。 亞馬遜能從中獲益嗎? 雲計算領域由亞馬遜、微軟和谷歌主導。根據行業估計,亞馬遜在全球雲基礎設施市場占有近三分之一的份額。 微軟和谷歌分別是第二和第三大供應商,但亞馬遜的雲端業務增長速度已經落後於競爭對手。其中一些增長放緩可以歸因於通脹和經濟衰退的宏觀經濟因素。這些阻力迫使公司做出了困難的決策,包括裁員,以減少開支。 不幸的是,這只解釋了增長放緩的一部分。競爭確實在加劇,亞馬遜希望為 AWS 注入新的活力。 除了競爭壓力外,Anthropic 交易中被低估的一個方面是使用亞馬遜的晶片。目前,在人工智慧和半導體的交叉領域,Nvidia 占據主導地位。現在,亞馬遜有機會在芯片市場上佔據一席之地。 這是否使得亞馬遜的股票成為一個買點呢? 雖然目前很難量化這筆交易的好處,但Anthropic的生成式AI模型使用亞馬遜的晶片和AWS,可能會為該公司的雲端業務...

AI革命:自動化如何改變未來的工作與心態 - 2023/10/07

  自動化是未來工作方式的重大改變,全球掀起的 AI 浪潮正在改變企業和員工的生活。根據 UiPath 的調查,AI 自動化方案正在成為解決職業倦怠和簡化工作內容的有效方法,約有 60% 的員工認為如此。同時,有 57% 的人認為公司應該引入自動化來幫助員工。 這項調查還顯示,全球約有 29% 的員工曾經感受到職業倦怠,28% 的受訪者表示公司的裁員或凍結召聘導致員工需要承擔額外的工作責任,這對他們的工作壓力產生了不小的影響。在這種情況下,越來越多的人依賴 AI 工具,這種趨勢產生了所謂的「自動化一代」,他們主動採用自動化和 AI 來提高協作、激發創造力和生產力。 調查還顯示,已經有31%的受訪者表示,他們已經在工作場合使用業務自動化解決方案,這群「自動化一代」認為,他們擁有需要的資源和支持來有效完成工作上的職責,且有83%的員工認為,自動化解決方案可以有效解決職業倦怠,並且提高工作滿意度。 UiPath 對此表示,調查結果表明,AI 驅動的業務自動化技術已經對商業和技術人員產生了積極影響,幫助他們減少在重複性工作上花費的時間,從而專注於更重要、更有趣的任務。值得注意的是,這種趨勢並不依賴於員工的年齡或人口統計特徵,而是一種擁抱 AI 的專業人士的現象。然而,年輕的員工似乎更容易接受這些新的 AI 技術,其中有69%的 Z 世代員工、63%的千禧世代員工、以及51%的 X 世代員工堅信 AI 自動化可以改善他們的工作表現。 AI 的崛起不僅改變了員工的日常工作方式,也吸引了企業引進 AI 技術的興趣。多家科技公司紛紛在既有產品中融入 AI 技術,以推出各種數位工具和解決方案。儘管生成式 AI 技術仍在不斷發展,成功案例相對較少,但關鍵在於企業必須先找到合適的應用場景,然後評估如何導入和推廣這些技術。例如,微軟的 Azure OpenAI 結合了 GPT-3 語言模型和 Azure 企業功能,使企業能夠快速將成熟的 AI 模型整合到其流程、業務和專案中,以最大程度地提高效益。近期最受關注的 Microsoft 365 Copilot 將全面賦能個人和組織,成為最佳的 AI 助手。 除了 UiPath 的 RPA 方法,還有 Smart 4A 利用 Make.com 串接 SaaS 的資訊串流自動化。這種自動化是由 AI、API、Analytics 和 Auto...