面對AI風險 學者:台灣應建構安全資料庫 

人氣 350

【大紀元2024年08月26日訊】(大紀元記者鍾元台灣報導)台灣多個民團25日共同主辦「AI與風險社會」講座,邀請學者專家與談。學者分析人工智慧(AI)發展背後的風險指出,面對AI風險,台灣政府應建構安全、本土化資料庫。

由台灣獨立建國聯盟、台灣安保協會、現代文化基金會、新台灣和平基金會主辦的「AI與風險社會」講座,由黑熊學院執行長朱福銘主持綜合討論。

文化大學新聞學系教授陳慧蓉探討了AI對新聞業及社會的影響。她將AI背後的風險比喻為「進擊的巨人」,建議應該築起風險防範的三道城牆:「主權資料庫建置、責任應用與發展、AI公民識讀。」

陳蕙蓉呼籲政府、企業、公民社會應持續研究AI,並發展更安全的規範。她強調AI背後的數位學習與人類的語言學習模式不同,社會應該關注未來AI數位系統學習失控時,政府、社會應該如何制止。

陳慧蓉提到,被稱之為「AI教父」的前Google執行長辛頓(Geoffrey Hinton)已指出幾個AI風險:

一、被惡意國家、組織、個人所錯用;二、造成科技性失業(尤其是機械性與記憶性的工作,例如法務助理,個人助理,翻譯等);三、通用AI對人類社會的存在性威脅(例如個人及公司AI系統不僅發展自己的程式碼,也開始跑自己的程式碼 ,如同火車開始蓋自己的軌道)。

陳慧蓉連結到8月1日上路的歐盟《人工智慧法》(AI Act),以「風險」為主軸區分AI的四種風險,分別為:

一、「不可接受風險」(Unacceptable Risk)是完全禁止,例如社會信用積分系統、操弄型AI。二、「高風險」(High Risk)也是歐盟AI法案主要規範對象。三、有限風險(Limited Risk)針對透明化規範,開發者及部署者必須讓終端使用者知道他們是與AI互動,例如聊天機器人,深偽,AI生成照片。四、「最低風險」(Minimal Risk)則不受歐盟AI法案所規範,例如AI電玩,垃圾郵件過濾器等。

陳慧蓉提到歐盟對AI的規範,隨著生成式AI的發展,也會隨之修正。她指出,AI資料庫經常忽視台灣本地文化,導致AI生成的內容,不符合台灣本土特徵。對此,她認為目前以台灣主體性為文本的「可信任生成式AI對話引擎」(TAIDE),引入台灣特有的語料庫。她也呼籲未來台灣的AI重點發展,更應該關注轉型正義及永續價值,建構「可信任」AI模型,以反映民主社會的多元性。

台灣勞工陣線秘書長孫友聯提到ChatGPT都承認自身的「偏見與歧視」,他也提到大量使用AI,讓從事人的服務的行業(如銀行、咖啡館)逐漸失去溫度。

孫友聯表示,隨著科技進步,勞動市場正在重塑,人們在生產過程中使用先進的機器設備代替人類勞動,讓部分職業可能被AI取代,形成「科技性失業」。此外,他說,在勞動領域,因為AI具有高重複性的特徵,可能會對勞動者的性別歧視、員工管理、人臉辨識及工作安全等方面造成挑戰。

孫友聯呼籲,政府在發展AI法制過程中,不可遺漏社會保險及勞動法律領域。透過制度化的措施為個人提供足夠的「緩衝」,避免因為AI的蓬勃,忽略讓勞動者掉入被邊緣化或被社會排除的風險,以應對AI發展過程所帶來的挑戰。

文化大學哲學系教授吳豐維以哲學家對風險和AI開頭,指出當代哲學如何看待AI的潛在風險和道德問題,並分析了AI法案如何通過風險評估來制定法律規範。

吳豐維指出,近年歐盟已基於不同的AI風險,來制定不同強度的規範。他提醒台灣政府未來可參照歐盟法案,當要促進AI的發展時,目的是保護人們的健康、安全與基本權利免於AI的傷害,同時針對高度風險AI的提供者/開發者制定規範,以保護AI 的發展。

此外,吳豐維提醒,根據歐盟的《人工智慧法》,政府應該特別禁止AI操弄行為與決策、剝削弱勢、收集敏感的生物識別、社會評分,以避免過度發展的AI系統反過來傷害公民社會、國家主權。

吳豐維提出歐盟《人工智慧法》的倫理特色,AI具有目的義務論(deontology)性格,「隱私」(privacy)、「尊嚴」(dignity)、「自主」(autonomy)。歐盟的AI法案所提出的風險評估,在哲學上為「負向效益主義」(negative utilitarianism)特性。就「風險」概念,採取的是兩害相權取其輕。

吳豐維強調,AI資料庫會導致「移風易俗」,因為不同的資料庫,有不同價值觀,必須重視「主體性」乃至「主權」問題。他提到:台灣所使用的資料庫必須能反映出台灣的主權、特有的價值觀,避免在使用AI的過程中,被錯誤的資訊或價值觀所誤導。

他指出,AI的發展變成超級智慧,也有一種「可能的」風險。若AI的判斷出現嚴重偏離,也會導致反過來形成傷害人類的決策。如果未來AI資料庫發展成「超級智慧」,判定人類「長期」對地球是有危害,就有可能反過來將人類當作是攻擊的目標。

責任編輯:葉紫微#

相關新聞
「ChatGPT之父」國會作證:防AI風險至關重要
【方偉時間】白宮施壓七巨頭承諾管控AI風險
【時事金掃描】德國軍艦過台海 三方隔空叫板
台立委籲汲取烏克蘭經驗強化台灣國防
如果您有新聞線索或資料給大紀元,請進入。
評論