(资料图片)

就业市场面临的这一近在眼前的威胁令人担忧，但这不是我签署“暂停信”的原因。我的担忧是，人工智能生成的内容看起来和感觉起来都是真实的，而且经常给人很有权威的印象，但它实际上很容易犯事实性错误。如何确保这些将成为劳动力主要组成部分的系统不会从传播小错误变成传播疯狂的捏造内容，目前没有确切的标准或管理机构，我们需要时间来制定保护措施，并由监管机构来确保保护措施落到实处。

接下来一个显而易见的风险是，心怀不轨的人可能会故意创作出带有事实性错误的内容，被用于有意传播错误信息、虚假信息和彻头彻尾的谎言。这一风险一直都存在，但生成式人工智能所能触及的范围是过去不曾有过的，我们的世界非常容易因此充斥着看起来很权威但完全是捏造的内容。这种情况已经在Deepfake这类AI换脸工具上得到了体现，公众人物可以在看起来非常逼真的视频中做任何事或说任何话。随着人工智能变得越来越娴熟，公众将无法区分真假。我们需要水印系统和其他技术来区分真实的内容和人工智能生成的内容。要制定和落实这些保护措施，同样需要时间。

我称之为“人工智能操纵问题”。在很长一段时间里，这只是一个理论上的风险，但现在的技术可以部署个性化的对话影响力活动，根据用户的价值观、兴趣和背景来定位用户，以推动销售、宣传或误导信息。

事实上，我担心人工智能驱动的对话影响力将成为人类有史以来最强大的有针对性的说服形式。我们需要时间来落实保护措施。就我个人而言，我认为可能需要制定法相关规，禁止或严格限制使用人工智能介导的对话影响力。

因此，我在“暂停信”上签了名，因为我清楚地看到了人工智能系统带来的新风险的蔓延速度非常快，从业内研究人员和行业专业人士到监管机构和政策制定者，都没有时间去适应。

这封信会管用吗?我不清楚人工智能行业是否会同意暂停六个月，但这封信已经引起了人们对这个问题的关注。就我个人而言，我认为我们需要尽可能多地敲响警钟，以唤醒监管机构、政策制定者和行业领导者，他们需要采取行动，这项技术进入市场的速度比我经历过的任何事都要快，这也是为什么我们必须暂停适应一下。我们需要一些时间。

本文作者系Unanimous AICEO、Responsible Metaverse Alliance首席科学家和XR Safety Initiative全球技术顾问。