Chatgpt不香了?OpenAI:超智能AI或在未来10年出现,将全力把握_当前信息
来源:富途牛牛 发布时间:2023-07-06 12:46:36


【资料图】

ChatGPT的开发者OpenAI周三表示计划投入更多资源并成立新的研究团队,研究如何确保AI对人类的安全性,最终实现用AI来监督AI。

OpenAI联合创始人伊利亚·苏茨凯弗(Ilya Sutskever)和AI对齐负责人简·莱克(Jan Leike)在官方博客中表示:“超级智能的巨大能力可能导致人类失去力量甚至灭绝。目前,我们还没有解决方案来操纵或控制一个可能的超智能AI,并防止其变成无赖。”

这篇博文预测,超智能AI,即相比于人类更智能的系统,可能会在未来10年中出现。人类需要比目前更强大的技术来控制超智能AI,因此需要在“AI对齐研究”方面取得突破,确保人AI对人类持续有益。AI对齐是AI控制中的主要问题,即要求AI的目标和人类的价值观与意图保持一致。

作者写道,OpenAI将在未来4年内,将算力的20%专门用于解决这方面问题。此外,该公司将组建新的“超对齐”团队来组织这方面的工作。

该团队的目标是开发达到“人类水平”,由AI驱动的对齐研究员,随后通过庞大的算力推动其发展。OpenAI表示,这意味着将使用人工反馈来训练AI系统,通过训练AI系统来协助人工评估,最终训练AI系统来进行实际的对齐研究。

不过,人工智能安全的倡导者康纳·莱希(Connor Leahy)表示,OpenAI的计划存在根本性缺陷,因为最初的人类水平AI可能会失控并造成严重破坏,而这将迫使研究者去解决AI安全问题。他在接受采访时表示:“在构建人类水平的智能之前,必须先解决对齐问题,否则默认情况下你无法控制它。我个人认为这不是个特别好的、安全的计划。”

AI的潜在危险一直是AI研究员和公众最关心的问题。今年4月,一群AI行业领袖和专家签署公开信,呼吁暂停6个月开发比OpenAI的GPT-4更强大的系统,原因是对社会存在潜在风险。益普索今年5月的调查发现,超过2/3的美国人担心AI可能产生的负面影响,61%的人认为AI可能威胁人类文明。

编辑/Jeffrey

标签:

猜你喜欢

Chatgpt不香了?OpenAI:超智能AI或在未来10年出

ChatGPT的开发者OpenAI周三表示计划投入更多资源并成立新的研究团队,更多

2023-07-06 12:46:36

世界热文:港股午评 | 恒指跌超3%,大金融股、

富途资讯7月6日消息,港股上午盘三大指数持续走低,恒指跌3 08%,恒科更多

2023-07-06 12:51:04

全球球精选!港股突发走低!恒指意外跌近600点,

早上,A股开始有一段反弹,但随后港股突然跳水。而从行业走势来看,中更多

2023-07-06 12:55:02

天天快讯:扎克伯格11年来首次发推,幽默回应Threa

在$MetaPlatforms(META US)$推出类似推特的社交应用Threads之际,该公更多

2023-07-06 11:57:08

高盛最新回应!此前曾下调部分银行评级,国内机构

近期,高盛发布的有关中国银行股的报告引发广泛关注,高盛最新也对此做更多

2023-07-06 10:51:01

股价要再涨130%?外资为何这么“看好”比亚迪?-

一份报告引发“迪粉”兴奋。花旗银行发布研究报告称,给予港股比亚迪股更多

2023-07-06 10:57:21

马斯克“现身”2023世界人工智能大会:今年末将实

2023年7月6日,2023世界人工智能大会(简称WAIC)在上海拉开帷幕。开幕更多

2023-07-06 10:58:15

盘中速览 | 港股跌幅扩大,恒指跌近2%;汽车股

富途资讯7月6日消息,三大指数齐挫,截至发稿,恒指跌1 88%,恒生科技更多

2023-07-06 10:49:44

新消息丨Instagram推出Threads应用,将与推特直接竞争

MetaPlatformsInc.旗下的Instagram正式发布了Threads,这款应用程序的更多

2023-07-06 09:45:03

恒生指数低开1.41%,美团、阿里巴巴跌超1%-当前焦点

港股开盘,恒生指数跌1 41%,恒生科技指数跌0 98%;科指成分股普跌,舜更多

2023-07-06 09:53:14