【大澳门威尼斯人赌场官网2024年05月18日讯】关于AI（人工智慧）的讨论愈来愈热，发展AI产业各国都不落人后，希望能一马当先。不过，虽然不得不费心费力研究发展AI，但对AI于人是祸害的忧心却也愈见高涨。

巴菲特害怕AI精灵

5月4日，美国传奇投资人巴菲特在股东大会上，就对AI的潜在危害发出严厉警告，他将AI的潜力与核武器联系起来，他说：“当我们开发核武器时，我们让一个精灵从瓶子里跑了出来。那个精灵最近在做一些可怕的事情，而这个精灵的力量让我非常害怕。我不知道如何将精灵放回瓶子，AI也有些类似。”他也提到利用AI进行诈骗的潜力，并警告说，AI诈骗可能成为一个大的“增长行业”。他指出，AI技术能够复制逼真和误导性的内容，试图让金钱流入坏人手中，诈骗者会利用AI语音复制和深度伪造技术来操纵视频和图像，冒充某个人的家人和朋友索要钱财或个人信息。

巴菲特举例说，诈骗者复制某人女儿的图像，并假借这种关系告诉此人，这是你的女儿，刚刚出了车祸，需要5万美元的电汇。他进一步提到AI的深度伪造技术说，他看到过有人使用他的肖像，但“传递的信息绝不是来自我”。

几乎在同时，奥地利外交部长查伦伯（Alexander Schallenberg）也在一场“自主武器系统会议”上，说“AI是我们这一代的奥本海默时刻。”指的是，当年美国物理学家奥本海默（J. Robert Oppenheimer）成功发明原子弹，为美国和同盟国带来二战胜利，被称为“原子弹之父”。不过，奥本海默目睹原子弹给日本带来的灾难，以及对地球带来不可磨灭的伤痕，让他思考自己帮助发展原子弹的决定是否正确。

沙伦伯格表示，“人类正走在历史的十字路口，自主武器将布满整个世界的战场上。目前无人机、AI相关的机器正布满整个战场，而我们也面临着法律、道德和安全上的问题。”

他说，现在全球急迫地需要在AI领域上做出一致认同的国际规则和规范，以防止AI因错误和极端的偏见出现失控的行为，导致人类灭绝和大量死亡。人们需要确保（武器）是由人类来掌控，而非AI。

日本电脑工程师清原仁（Kiyoharajin）对于沙伦伯格的话表示赞同，但强调，“遵守道德才是保证人类不会走向自我毁灭的唯一途径，若道德跟不上武器或科技的发展，就容易使人们迷失，从而忽略安全意识。”

“杀手机器人”是继火药、核武之后第三波“战争革命”

其实，早在2016年8月21日，美国、丹麦、加拿大和法国等26国人工智慧（AI）及机器人企业的专家和领袖，就发表连署公开信，警告“杀手机器人”等AI自主武器将继火药、核武之后，带来第3波“战争革命”，要求联合国全面禁止发展。而几乎在同时，北韩又发射飞弹直捣关岛，更进而试爆氢弹引爆6.3强震，这正呼应这封连署信所忧虑的“战争革命”。

我们知道，诺贝尔在19世纪发明火药，结果被用来作为杀人武器，并且让战争更为残酷，死伤者更众，毁灭性更高。诺贝尔被论定为凭发现新杀人方式以致富的“死亡贩子”，他为了赎罪乃在遗嘱设立“诺贝尔奖”，希望激励物理、化学、医学科学的改善、发现和发明，并激发文学的创作和对人类和平的努力，目的就在造福人群。

不过，人类的科学此后果真快速进展，科技也飞跃猛进，人的生活固然更为便利，但核能、原子弹的出现，却也让战争更残酷，而“第2波战争革命”的核武竞赛、核能的伤害历历在目。如今人工智慧的狂热，其将带来的风暴连这些高科技顶尖专家都提心吊胆，而毁灭和末世的恐慌又再升高，于是“科技发展”真是进步的表征吗？科技带给人类是福或是祸？的疑惑又浮上世人心头。

美国电动车大厂特斯拉（Tesla）执行长马斯克（Elon Musk）近十年前就说，AI在太阳能、电动车和太空探索等方面的进展保持乐观，但AI武器将是人类生存的最大威胁。他认为，虽然各界普遍了解该种武器毁灭力量强大，但少有人正视其威胁早已迫在眉睫，“数年内就可能达成实际部署和应用”。

回归传统找回伦理道德

进一步说，现代科技的进步提高物质享受，是否会腐化人心？尤其金钱游戏出现以后，求利的欲望更加速人心的腐化。再加上电脑的威力，让人际之间的来往、交流，已被资讯网路替代，人与人的直接交流愈见淡薄，“善的人性”也愈见消蚀。

在人心、道德沈沦下，科技愈进步，其祸害愈大，也凸显现代人是不配使用高科技的，是会玩火自焚的，难怪连高科技专家都要出面呼吁禁止。只是，不往人心回升、寻回传统的伦理道德上落力，是禁止不了的！所以，正如上文所引日本电脑工程师清原仁近日所强调的，“遵守道德才是保证人类不会走向自我毁灭的唯一途径，若道德跟不上武器或科技的发展，就容易使人们迷失，从而忽略安全意识。”那么，人类啊！就让我们努力返本归真，寻回传统的伦理道德吧！

作者为中华经济研究院特约研究员

责任编辑：朱颖