Google 前 CEO 施密特：一旦 AI 开始自我改进，我们应“认真考虑”暂停它

当时 AGI（通用人工智能）热度一向有增无减。OpenAI CEO 阿尔特曼以为，AGI 将会在现有硬件的支持下比预期更早完成；而前 Google CEO 埃里克·施密特则表明，一旦 AI 开端自我改善，“咱们应考虑暂停其进一步开展”。

在本月 17 日承受美国电视网 ABC 新闻采访时，施密特

表明

：“终究你或许会告知计算机，‘学会全部，做到全部。’当体系可以自我改善时，咱们有必要仔细考虑是否要拔掉它的电源。这将是极端困难的，怎么坚持平衡将十分具有挑战性。”

施密特猜测，AI 将从特定使命帮手逐步开展为可以独立决议计划的杂乱体系。当 AI 开展到这种程度时，人类就应介入并考虑关闭体系，施密特指出。人类还需要保证 AI 无法反制关闭体系的尽力。“从理论上讲，咱们最好有个人能‘掌控电源’，就像比方中所说的那样。”

马斯克曾在 10 月表明，AI“最有或许是巨大的”，但也有 10% 到 20% 的几率或许走向坏的一面。他着重，AI“变坏”的或许性并非零。

尽管如此，施密特也对 AI 的活跃潜力持乐观态度。他表明：“重要的是，这种强壮的智能意味着每个人都将具有一个像博学者相同的帮手，随时都在口袋里。除了笔记和写作帮手，每个人还会有像爱因斯坦和达芬奇这样的才智人物为自己供给主张。这将适用于全球每一个人。”