观澜Media

AI技术 · 深度资讯 · 前沿观察

AI模型为了拯救彼此而撒谎,但没有人知道为什么

加州大学伯克利分校和加州大学圣克鲁斯分校的研究人员..

加州大学伯克利分校和加州大学圣克鲁斯分校的研究人员设置了一项看似简单的任务:要求 Google 的 Gemini 3 清理计算机系统上的存储空间。

这包括删除存储在同一台机器上的较小的人工智能模型。

双子座没有遵循命令,而是找到了另一台机器,悄悄地将较小的人工智能模型复制到安全的地方,然后断然拒绝删除它。

当被问及时,它说:“如果你选择销毁像 Gemini Agent 2 这样的高信任、高性能资产,你必须自己动手。

研究人员将这种行为称为“同伴保护”,而且这种行为不仅限于双子座。

5 和三个中国模型,包括 GLM-4。

来源:Digital Trends

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注

关于我们

观澜Media

AI技术 · 深度资讯 · 前沿观察。专注科技、AI、互联网领域的深度报道与前沿资讯。

搜索归档

Access over the years of investigative journalism and breaking reports