【大澳门威尼斯人赌场官网2023年06月30日讯】（大澳门威尼斯人赌场官网记者王兰多伦多报导）人工智能（AI）先驱杰弗里·辛顿（Geoffrey Hinton）表示，AI技术的进步正在将世界推入“一个巨大不确定的时期”。随着技术变得更加智能，这位被称为“AI教父”的专家强调了人工智能可能对人类造成的六种危害。

据CTV报导，周三（6月28日）在多伦多举行的北美科技大会“碰撞”年会上，辛顿解释说，使用AI的一些危险源于它可能会产生控制他人的欲望。

辛顿说：“我们必须认真对待这种可能性，如果它们变得比我们更聪明，这似乎很有可能，并且它们有自己的目标，它们很可能会制定目标进行控制，如果它们这样做，我们就有麻烦了。”

这位认知心理学家和计算机科学家今年早些时候从谷歌辞职，以便公开地谈论AI的潜在危险。 随着AI技术通过ChatGPT等工具变得更容易为公众所接受，辛顿几个月来一直在表达他的担忧。

辛顿成为此次多伦多科技大会的中心，他向数百名与会者发表了讲话，座位很快就满了，很多人坐在地板上。来自世界各地的四万多人齐聚多伦多参加今年的 “碰撞” 技术大会，会中几乎每个演讲都涉及AI的广泛影响。

辛顿表示，以下是AI可能对人类造成的六大主要危害：

1. 偏见和歧视

使用带有偏见的数据库，人工智能技术和ChatGPT等大型语言模型能够产生同样有偏见的答案。

例如，一位推特用户曾发布帖子显示，聊天机器人编写的代码表示，只有白人或亚洲男性才能成为优秀的科学家，这一回答是根据其数据库得出的。

2. 战斗机器人

世界各地武装部队正生产战斗机器人等致命自主武器。“国防部将建造它们，我不知道如何阻止他们这样做。”辛顿说。

上个月，签署《特定常规武器公约》的国家召开会议，讨论致命自主武器系统。 然而，经过10年的审议，关于使用这些武器系统的国际法律和法规尚不存在。

尽管如此，此类技术会继续发展，而且正在进行。

3. 人类失业

大型语言模型的开发将有助于提高员工的生产力，在某些情况下，可能会取代生成文本的人的工作。

其他专家也表达了对AI在就业市场取代人类劳动力的潜力的担忧。 但多伦多大学罗特曼管理学院劳资关系和人力资源管理名誉教授阿尼尔·维尔马（Anil Verma）表示，随着时间的推移，一些工作岗位将会消失，正如历次技术浪潮中的情况一样。但这种情况发生的速度是我们能够调整和适应的。

而辛顿表示，他不确定科技是否会创造比它消除的工作岗位更多的就业机会。

4. 消除不同的声音

在数据的环境中，用户会接触到与自己相似的信念或想法。 结果，这些观点得到了强化，而其它观点则没有得到考虑。

辛顿说，可能有一些程序使用AI算法，经过人类情感训练，让用户接触某种类型的内容。 他举了一个例子，大公司向用户提供的内容鼓励他们点击。

5. 对人类的生存构成风险

辛顿还对AI可能对人类生存构成的威胁表示担忧。 他说，如果科技变得比人类聪明得多，并且能够操纵人类，它可能会取代人类，人类有一种强烈的、内在的控制欲，而这也是AI能够发展的特质。

人类可能无法克服这种控制欲望，也无法监管可能怀有恶意的AI。 这可能会导致人类的灭绝或消失。 虽然有些人可能认为这是一个笑话或危言耸听的例子，但辛顿不同意。

“这不仅仅是科幻小说。”他说，“这是我们需要考虑的真正风险，我们需要提前弄清楚如何应对。”

6. 假新闻

辛顿表示，AI还具有传播假新闻的能力。 因此，他说，标记虚假信息以防止错误信息非常重要。

各国政府已将故意使用或保留假币定为刑事犯罪，应该对AI生成的故意误导的内容采取类似的措施。 不过，辛顿表示他不确定这种方法是否可行。

如何让AI行善？

辛顿表示，他不知道如何让AI更有可能成为一种行善的力量，而不是作恶的力量。 但在这项技术变得异常智能之前，他敦促开发人员努力了解AI可能会如何出错或试图控制人类。

他表示，开发AI技术的公司还应该投入更多资源来阻止AI接管，而不仅仅是让技术变得更好。

“我们真的应该减轻AI带来的所有不良副作用。”他说。

责任编辑：严枫#