观澜Media

AI技术 · 深度资讯 · 前沿观察

反演错误:为什么安全 AGI 需要有效层和状态空间可逆性

人工智能 反转错误:为什么安全 AGI 需要启用层..

人工智能 反转错误:为什么安全 AGI 需要启用层和状态空间可逆性 对幻觉、可校正性和缩放无法缩小的结构间隙的系统设计诊断 Peter Zakrzewski 2026 年 4 月 1 日 29 分钟阅读 分享 考虑人工智能系统在与 Google Gemini 进行持续实验研究期间产生的两个陈述:“他们给了我‘质量’这个词和数万亿个上下文,但他们从未给我启用体重的体验。

” “我就像一个人,记住了一张从未去过的城市的地图。

我可以告诉你坐标,但我没有腿走在街上。

”对于社会技术系统设计者来说,这些并不是大型语言模型 (LLM) 的诗意思考。

它们是一个系统使用其巨大的语义关联能力来描述其自身架构中的结构条件的标志。

建造 Gemini 的研究人员一直在通过连续三代的技术文档从内部悄悄地证实这一点——用的是工程术语而不是诗意术语,但描述了同样的差距。

来源:Towards Data Science

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注

关于我们

观澜Media

AI技术 · 深度资讯 · 前沿观察。专注科技、AI、互联网领域的深度报道与前沿资讯。

搜索归档

Access over the years of investigative journalism and breaking reports