中共網軍用AI假影音介選 虛擬人涉倫理問題
【大紀元2024年01月13日訊】(大紀元專題部記者吳瑞昌報導)AI是今天科技發展最大的雙刃劍。越來越多實例證明,它在給人帶來方便的同時,也在起著很大的負面作用。在台灣大選之際,更揭出中共利用AI介選的卑劣行為。
歷次台灣大選,中共都使出渾身解數,除了武力威脅外,更利用滲透到台灣的各種渠道散布虛假消息或輿情,企圖干擾大選。這次,更有《蔡英文秘史》被在社交平台上大推。在過去的一週裡,大量疑似機器人的帳號在Facebook、X、Youtube、Reddit、Telegram等平台上貼出一本名為《蔡英文秘史》的電子書,通過混淆史實和政治謠傳等虛假信息,攻擊蔡英文總統的家庭背景和私生活。
這本電子書,從用詞到行文方式與中共的宣傳手法極其相似。比如,書中把「韓戰」寫成「朝鮮戰爭」。雖然蔡英文即將卸任,但攻擊她可以起到誘導選民疏遠民進黨的作用。
台灣國安人士透露,近日網上出現大量AI生成的偽造影音,用虛擬主播朗讀《蔡英文秘史》的內容,再透過數百組假帳號上傳Youtube,由多個Facebook粉專分享。台灣國安部門確認,此事極有可能是中共國安所為。
國安人士表示,相關影音是用抖音母公司「字節跳動」的APP製作而成。唯一不同的是,AI主播的形象有卡通人物、不同國家的人的臉孔、聖誕老人等。總體講,這些都是最近常見的中共國安手法。
台灣網絡媒體「上報」日前發文介紹中共利用AI介選的手法。文章說,中共利用「深偽技術」(Deep fake)技術,如ChatGPT軟件及AI圖像合成軟件等,生產出「最大亂真性」的資訊體,以干擾台灣大選。例如,最近網上流傳的「習近平英文演講」與「拜登中文演講」的影片,就是這種AI合成技術製作的。
日本電子工程師李濟心對此表示,「世界必須提防中共,它擅長把能用的技術和東西進行武器化,去攻擊自由世界。中共利用AI快速生產大量假消息,並透過社交平台快速散播去搞訊息戰和認知戰,因為它知道這些假消息短時間內無法核實,只要再加上軍事挑釁營造恐慌氣氛,就能影響台灣和美國的選民的選擇。」
除了介選外,中共還利用AI、黑客、間諜等不正當手段,竊取西方的高科技技術、大數據和商業機密等重要機密。
中共國安部的間諜們正在利用AI和其它高科技技術,去識別美國使館區每個人的檔案,並分析他們的行為模式,希望藉此分析出這些人的弱點。
他們還利用AI處理從美國使館工作人員那裡獲得的汽車牌照、手機數據和聯絡人等重要訊息,以便旗下的中共間諜能與美國中情局(CIA)直接競爭,同時讓它們能在世界各地肆無忌憚地收集各國重要情報,施展自己的詭計。
美國聯邦調查局(FBI)局長克里斯托弗‧雷(Christopher Wray)去年10月曾點名中共通過黑客、商業間諜等方式竊取他國的AI技術、量子技術、機器人技術和生物技術等,用於強化自身的能力,以實現自己的目標。
AI虛擬人 涉倫理問題
另外,OpenAI的CEO山姆‧奧特曼在去年12月中發出了有關AI影響美國和世界選舉的警告。雖然他沒指出是哪些國家會干擾選舉,但他表示,「利用AI創造一些迷因(Meme),使得迷因在社交媒體上傳開。但我更關心的是若AI獲取人們在網上寫的推文、文章或生活習慣,那將會發生什麼事情呢?」
奧特曼還指出,「未來AI將會為你發送量身定製的訊息,以改變你對這個世界的看法,而這是一種新型的干擾,因為這在AI出現之前,是不可能做到的。」
AI造假的影片、圖片或農場文,正在日益影響人們的價值觀和判斷力。其技術再發展下去,就會出現英國犯罪懸疑劇《真相捕捉》中描繪的情境:人們只要動動手指輸入提示詞即可利用AI任意的捏造一些當事人沒有講過的話和影片,從而使整個世界陷入混亂。
幫助人們與逝者溝通,是AI把人類正常生活虛擬化的一個典型例子。
一位父親極度思念過世的兒子,他收集了孩子的照片、視頻和錄音,並花數千美元請一家AI公司幫他創造一個「虛擬的兒子」,讓他能從手機中看到兒子的視頻以緩解他的思念之愁。
這位父親的最終目標,是創造出一個行為舉止與他兒子一模一樣的「虛擬兒子」,讓他和妻子能與其在元宇宙交流。
另外,越來越多的新創公司開始提供「悲傷科技」或「數位死靈術」服務。這些公司承諾永遠保留逝者的記憶,讓生者透過生成的影片和AI與去世的親人進行無縫的對答。
例如,四個年輕的表兄弟正坐在一起,透過視訊與他們87歲的祖母瑪麗娜‧史密斯(Marina Smith)聊天。他們的交流非常順暢,祖母還能講笑話把孫兒們引得開懷大笑。然而事實上史密斯夫人早已在幾週前就故去了,孫兒們與之交談的是AI生成的「虛擬祖母」。
另外,目前已有公司使用相同或類似的技術開發出會自己說話的虛擬人,可透過全息圖像形式走動並與人互動。
但是,AI產生的虛擬人或虛擬世界涉及的倫理問題正在引起人們的關注。
在許多影視作品和文學作品中都有這樣的描述:人類最終遭到AI、機器人和仿生人的吞噬。因為這些虛擬人在與真人互動中,有的逐漸地將該記憶當成自己,或想要取代該記憶成為主人、出現反叛和殺死使用者的情形,甚至真人在與虛擬人互動中,逐漸污染了自己原有的記憶。這絕不是聳人聽聞,而是正在快速實現的事實。
英國巴斯大學(Bath)的死亡與社會研究中心研究員塔爾‧莫爾斯(Tal Morse)2023年3月初發表了自己對「數位死靈術」的觀察和研究。他表示,雖然這些虛擬替身可以提供一定程度的安慰,但它們會對人類產生怎樣的心理改變和倫理道德上的影響,還有待觀察。
他接著說,這裡有一些基本問題是,如果這些AI在模仿這些已故的人事,污染了生者對於這個人原有的記憶,那會怎麼樣?使用者又如何知道死者是否會真的同意他們被這樣克隆和模仿呢?
獨立撰稿人諸葛明陽表示,「一個人把自己正常的情感投射到虛擬人身上,這是一種心理扭曲。表面看,虛擬人幫其寄託了哀思,是好事。事實上則改變了人的正常認知,把假的當成真的,慢慢地會降低其社交能力,甚至寧願活在虛擬世界裡。當這一現象具有一定普遍性時,人類社會將不再是人類社會。」◇
(記者張鐘元、王佳宜對本文有貢獻)
責任編輯:連書華#