【友财网讯】-谷歌（Google）首席传道者和“互联网之父”温顿·瑟夫（Vint Cerf）对那些急于利用聊天人工智能进行商业交易的高管们说：“不要这样做。”

瑟夫周一在加州山景城的一次会议上恳求与会者不要仅仅因为“这是一个热门话题”就争相投资对话式人工智能。这一警告是在ChatGPT的受欢迎程度激增之际发出的。

“这里有一个伦理问题，我希望你们中的一些人会考虑。”瑟夫周一告诉会议人群，“每个人都在谈论ChatGPT或谷歌版的ChatGPT，我们知道它并不总是按照我们希望的方式工作。”他指的是谷歌上周宣布的巴德（Bard）对话式人工智能。

(相关资料图)

他发出警告之际，谷歌、Meta和微软(Microsoft)等大型科技公司正在努力解决如何在对话式人工智能领域保持竞争力，同时快速改进一项仍然经常出错的技术。

Alphabet董事长约翰·汉尼斯(John Hennessy)当天早些时候表示，这些系统距离广泛使用还有一段距离，他们还有许多不准确和“毒性”的问题，甚至需要在公众测试产品之前解决。

自2005年以来，瑟夫一直担任谷歌副总裁和“首席互联网传道者”。他被称为“互联网之父”之一，因为他参与设计了一些用于构建互联网基础的架构。

瑟夫警告说，不要仅仅因为技术“非常酷，即使它并不总是正确地工作”，就进行投资。

“如果你认为，‘伙计，我可以把这个卖给投资者，因为这是一个热门话题，每个人都会向我扔钱’，不要这样做。”瑟夫说，这赢得了观众的一些笑声。“想得周到。你是对的，我们不能总是预测这些技术会发生什么，老实说，大部分问题是人——这就是为什么我们人类在过去的400年里没有改变，更不用说过去的4000年了。”

“他们会寻求做对他们有利的事，而不是对你有利的事。”瑟夫继续说道，似乎指的是人类普遍的贪婪。“所以我们必须记住这一点，并考虑如何使用这些技术。”

瑟夫说，他试图让其中一个系统在每句话的末尾附上一个表情符号。它没有这样做，当他告诉系统他注意到了，它道歉了，但没有改变它的行为。“我们离意识或自我意识还有很长的路要走。”他谈到聊天机器人时说。

他说，这项技术说它会做什么和它做了什么之间有差距。“这就是问题所在。…你无法区分雄辩的“回应”和准确的“回应”。

瑟夫举了一个例子，当他要求一个聊天机器人提供关于他自己的传记。他说，机器人给出的答案是真实的，即使它包含不准确的内容。

“在工程方面，我认为像我这样的工程师应该负责寻找一种方法来驯服其中的一些技术，以便它们不太可能造成伤害。”他说，“当然，根据应用的不同，不太好的虚构故事是一回事。给某人提建议…可能会产生医疗后果。弄清楚如何最大限度地降低最坏情况的可能性非常重要。”

关键词： 人工智能 这是一个 非常重要