跳到主要內容

「深度偽造」:AI的雙刃劍 — 數位欺詐時代的崛起 - 2023/10/17


深度偽造:AI的雙面刃

人工智慧在許多領域都展現了出色的潛力,但就像幾乎所有事物一樣,它也有其缺陷。

當這項新技術滲透到社會時,以「深度偽造」為名的個人虛假照片和影片已在互聯網上散佈開來,而AI使它們的製作、傳播和可信度變得更容易。

這種偽造內容可用於將虛假信息呈現為事實。它廣泛應用於不同領域,從政治到名人、運動員,甚至普通人也難倖免。

AI製作真假難辨

根據賓夕法尼亞州巴克內爾大學分析和運營管理助理教授Thiago Serra的說法,僅需少量關於一個人的數據,就可以使用AI生成令人信服的內容,如照片、視頻和音頻。

Serra表示:「由於我們現在擁有大量數據,我們可以創建生成模型。不需要太多,就可以製作一張您從未參與過的事情的圖像。」

AI改變了遊戲規則

賓夕法尼亞州立大學信息科學和技術學院助理教授Shomir Wilson說,機器學習使用大量的訓練數據來建立關於事物運作方式的統計或模型。

Wilson表示,這項技術使用戶能夠基於現有內容創建新內容,這對娛樂和電影製作等領域可能非常有益。他說:「人們可以輕鬆地將一個視頻的部分無縫地插入另一個視頻中。」

深度偽造的挑戰

然而,就深度偽造而言,這項看似非常容易接觸的技術可能變得有問題。Wilson表示:「數位視頻技術已經達到了一個程度,以至於對於技術知識有限的人來說很容易。」

Serra說,隨著時間的推移、練習和AI生成的語音開始發揮作用,深度偽造可能會變得更加令人信服。他說:「我曾看到有人試圖複製聲音來打電

話,這讓人感到害怕。但是,有趣的是,也許您不久後就會看到 AI 打電話給 AI,這讓我們懷疑:是不是 AI 之間也會做惡作劇?😄

深度偽造如何辨識

對於普通社交媒體用戶來說,深度偽造的識別變得愈發棘手。Serra說:「這將變得棘手,它們變得越來越可信。」

Wilson表示,社交媒體用戶實施良好的資訊習慣至關重要,包括考慮內容的來源和呈現方式。他說:「考慮來源很重要。它來自可靠的新聞來源,還是你從未聽說過的來源?它如何呈現?它的框架是為了提供信息還是挑釁?」

保護您的內容

除了識別深度偽造,個人還可以採取措施來保護自己的數據和內容,以免被篡改以虛偽呈現。Serra建議在社交媒體上發布圖像之前,為圖像添加某種水印,以便更容易檢測內容的任何更改。

他說:「當你分享照片時,可以在圖像上添加一些微小的標誌,這樣如果有人使用它,這些標誌也會一起傳遞,這將告訴您這張圖像是以前的不同圖像。」所以,記得為您的照片加個「我是真的!」的標誌吧!😉

AI 的未來

關於人工智慧的未來,Serra說:“我不確定它將引領我們走向何處。我們正在進入一個前所未有的時代,擁有可以玩弄的技術。”

Wilson預計這項技術的應用將隨著時間的推移而改進。他說:“它可能變得更好。它能為我們帶來優秀的娛樂和偉大的電影,但它也能做這些事情。您必須甄別善惡。”

所以,雖然AI為我們帶來了巨大的機會,但同時也帶來了深度偽造等新挑戰。我們必須保持警惕,培養良好的信息識別能力,並應用新技術來維護我們的數據和內容的真實性。未來,AI的發展仍將充滿未知,讓我們繼續探索這個令人驚奇的領域!🤖🚀


留言

這個網誌中的熱門文章

亞馬遜 Q 登場:職場新夥伴,AI革命即將來襲! - 2023/11/29

告別 ChatGPT、Bard 和 Copilots!亞馬遜正加入聊天機器人競賽,推出自家的人工智能助手:Amazon Q!但別急,這不是為了消費者。Amazon Q 要革新職場,協助員工應對那些讓我們都感到困擾的日常任務 😫。 想象一下:你正在試圖總結一份戰略文件,填寫支援票據,或者理解公司政策。噯,這真是一場鬥爭!這就是 Amazon Q 的用武之地。它專為職場而設計,是數百萬人的完美工作伴侶。嗚呼! 現在,你可能會想:“等等,亞馬遜,為什麼你等了這麼長時間才加入人工智能派對呢?”好吧,朋友,這就是內幕 :亞馬遜一直在努力擺脫被視為在人工智能方面落後的觀念。OpenAI 推出了ChatGPT,包括谷歌和微軟在內的所有人都跟風。因此,亞馬遜決定是時候參一腳了。 為了證明他們是認真的,亞馬遜最近宣布對 Anthropic 這家人工智能初創公司進行了高達40億美元的投資,Anthropic 正在與 OpenAI 不分上下。他們甚至合作開發先進的計算芯片。談論走大路還是回家! 你看,作為領先的雲計算提供商,亞馬遜對於在其伺服器上處理大量數據並不陌生。企業客戶已經在亞馬遜的雲中存儲大量重要信息,所以在職場引入聊天機器人是理所當然的,對吧?嗯,不完全是。由於對數據安全和隱私的擔憂,公司曾經猶豫不前。 結果,原來人們並不太願意讓他們的企業數據漂浮在數字深淵中。就像那些聊天機器人是可以被任何人騎乘的野馬一樣!但請放心,親愛的讀者,因為亞馬遜清楚地聽到了這些擔憂。他們建造了 Q,成為聊天機器人的堡壘!💪安全和隱私是他們的專業。 那麼,你可能會問,他們是如何做到的呢?嗯,Amazon Q是高度可定制的,允許企業設置自己的安全權限。如果市場部門的員工無法訪問敏感的財務預測,Q將尊重這些界限。就像擁有一個知道不洩漏秘密的人工智能助手! 現在聽起來像是我們可以信任的聊天機器人,對吧?所以,準備好迎接你的新工作好友,Amazon Q!它在這裡幫助你一次又一次地征服日常工作。而且誰知道,也許有一天,我們會有聊天機器人統治世界呢?只要它們繼續回答支援票據並保護我們的數據安全,機器人革命可能也不是那麼糟糕。😅 但是,嘿,讓我們還是別急著遠大未來。現在,讓我們歡迎 Amazon Q,擁抱職場協助的未來吧!

2024年ChatGPT新功能揭秘:從AGI到影片處理,探索OpenAI的十大創新! - 2024/01/11

ChatGPT 的問世為我們帶來了許多改變,不論是寫社群小編文還是遇到程式設計問題,都能輕鬆得到 ChatGPT 的幫助。2024 年,這個世界上最受歡迎、最強大的 AI 聊天機器人,還將帶給我們更多想不到的驚喜!OpenAI 執行長山姆・奧特曼(Sam Altman)最近在推特上徵求了廣大網友的意見:“你們希望 OpenAI 創建或修復什麼?”吸引了超過 1,700 則留言。奧特曼聽到了大家的心聲,經整理後,他公布了1 0 個最多人期望的功能,並承諾 OpenAI 會在 2024 年逐一實現這些許願實現!看看這些令人期待的功能有哪些吧! 1. 通用人工智慧(AGI):AGI就是有能力執行與人類相同智力任務的AI系統。ChatGPT 被許多人視為實現 AGI 的關鍵一步。當然,奧特曼也表示,要實現AGI還需要時間和努力,他鼓勵大家耐心等待。 2. GPT-5:GPT-5 預計於今年問世,它將比 GPT-4 更強大,擁有更多參數、數據與功能,能產生更精準、多樣化且富有創意的文字。奧特曼暗示 GPT-5 將提升使用者的體驗與滿意度,值得大家期待。 3. 更好的語音模式:你試過和 ChatGPT 直接說話交談嗎?沒錯,你可以直接用語音與 ChatGPT 交流,不需要再打字。奧特曼承諾,在新的一年,語音模式將有更好的品質、速度和可靠性。而且,還有機會讓語音更具表現力與情感,能夠適應使用者的語氣、情緒和個性。 4. 更高的速率上限:目前 ChatGPT 每單位時間可以產生或處理的文字量有所限制,這是為了節省成本與資源,同時也防止 ChatGPT 因請求過多而超載。奧特曼表示,到了 2024 年,使用者將能在更短的時間內,產生或處理更多的文字。此外,速率限制也將更加靈活與允許自訂,依據使用者的需求與偏好。 5. 更好的 GPT:GPT 是 ChatGPT 背後的核心技術,用來訓練大型語言模型。奧特曼保證,在 2024 年 GPT 的功能將有更大提升,將能處理更複雜和更具挑戰性的任務,例如推理、總結、翻譯和回答問題。 6. 更好的推理:推理是從事實和證據出發得出結論的能力,也是目前AI系統最難掌握的技能之一。它需要對上下文的理解以及對文化與常識的認識。奧特曼透露,ChatGPT 的推理能力將於2024年獲得提升,結果將更一致且可靠,並且適用於更多領域和場景

TAIDE計畫升級!AI對話引擎霸氣登場 - 2023/09/06

【幽默觀點】TAIDE計畫升級!AI對話引擎霸氣登場 😎 大家有福啦!國科會號召的TAIDE計畫又有新進展了喔~這個專為台灣設計的AI對話引擎即將在9月開放公部門應用測試,然後10月就會提供測試帳號囉!別小看它,初期可幫我們處理英翻中、自動摘要、寫Email,甚至出題目產生文章等任務,未來更有無窮可能性!一起來揭開TAIDE的神秘面紗吧!🤩 【風險防範?】公家機關也要用AI啦!瘋狂日期公布 📆 為了防範AI引發的風險,我們的政府公部門最近可是搞得不亦樂乎!國科會在7月中旬公告的公務機關AI使用指引草案,行政院在8月31日竟然宣布通過!這表示未來的公務機關在使用AI時,要有一套守則可以遵循,讓大家都能安心用,不用怕怕!而且還能促進其他機關參考制定自己的管理規範呢!😮 【台灣專屬!】TAIDE強勢登場,開啟測試新紀元!🚀 不只是公務機關,TAIDE對台灣的意義更大!今年上半年,國科會號召國內學術團隊和其轄下機構,共同投入TAIDE計畫的打造!這個生成式AI對話引擎可是我們台灣特有的,融入了我們的語言、價值觀、風俗習慣等元素,懂得聽台灣使用者的心聲,超有感啊!加上正體中文的多元訓練素材,它的表現更是越來越強大!現在9月終於開放測試,想體驗TAIDE的魅力嗎?趕緊報名試用吧!🎉 【衝破預期!】TAIDE開放測試超越你的想像!✨ TAIDE的發展可不是小菜一碟!這個項目以法國的開源大模型BLOOM為基礎進行調教,不過後來改用了更厲害的Meta開源項目Llama!這讓TAIDE變得更強大!最近他們終於有了重大突破,因為Meta在7月中旬開放了商業授權,這可讓他們打造商用版的TAIDE模型更順利啊!Taide-llama2-13B-Chat模型的表現也相當不錯的!!經過大家的關注與支持,TAIDE的整體進度越來越順利啦!💪 【神奇功能!】TAIDE讓你輕鬆生活,一機在手玩轉四項超能力!🦸‍♀️ TAIDE可不只是美顏啦,它的功能多到讓你嘆為觀止!現在已經能幫助我們處理辦公室四項日常生產力工作:中英翻譯、自動摘要、寫Email,還有一個超酷的功能,你說出題目,它直接幫你產生作文!就連修改作文,也有驚人的效果!文句通順、句子不重複,完全秒殺!超乎預期吧!快來體驗這奇幻功能吧~9月初就開始邀請部會報名,9月中就開放試用申請報名,預計10月初就會提供測試帳號,玩得開心,學