前谷歌CEO施密特警告:AGI自我改进时或需暂停发展,马斯克也称AI存在风险快讯

TechWeb.com.cn 2024-12-24 15:22
分享到:
导读

随着AI的发展,并且确保有措施能够阻止AI反制人类的关闭尝试,当AI系统发展到能够独立决策的程度时。

【TechWeb】随着通用人工智能(AGI)的热度不断攀升,行业领袖们对其未来发展的看法也日益成为公众讨论的焦点。OpenAI的CEO伊隆•阿尔特曼乐观地预测,AGI可能会在现有硬件的支持下比预期更早实现。然而,前谷歌CEO埃里克•施密特对此表达了更为谨慎的看法,他在接受美国电视网ABC新闻采访时提出,一旦AI开始自我改进,人类应该考虑暂停其进一步发展。

施密特指出,当AI系统发展到能够独立决策的程度时,人类需要认真考虑是否应该停止其发展,并且确保有措施能够阻止AI反制人类的关闭尝试。他比喻说,应该有一个人能够“掌控电源”,以确保人类对AI的控制。

同时,特斯拉和SpaceX的CEO埃隆•马斯克也在10月表示,尽管AI有可能是“伟大的”,但它也有10%到20%的几率走向负面。他强调,AI“变坏”的可能性并非不存在。

尽管存在这些风险,施密特对AI的积极影响也持乐观态度。他预言,随着AI的发展,每个人都能拥有一个像博学者一样的助手,这种智能助手将能够提供类似于爱因斯坦和达芬奇的建议,这对于全球每一个人来说都是一项宝贵的资源。施密特的这一愿景体现了AI技术在未来社会中的广泛应用和潜在价值,但也提醒人们需要对AI的发展保持警惕,并制定相应的风险管理措施。(Suky)

AI 发展 施密特 能够 人类
分享到:

1.TMT观察网遵循行业规范,任何转载的稿件都会明确标注作者和来源;
2.TMT观察网的原创文章,请转载时务必注明文章作者和"来源:TMT观察网",不尊重原创的行为TMT观察网或将追究责任;
3.作者投稿可能会经TMT观察网编辑修改或补充。