没有元评估器的宪法可观察发明：可审计自我扩展的实用理论 handman 7 分钟阅读 · 刚刚 — 听分享 智能系统如何在不依赖隐藏的法官、私有标签或默默决定什么算作进步的外部权威的情况下改进自身。
它提出了一个框架，在这个框架中，发现、自我修改、评估者重新设计，甚至目标或章程的改变都必须仅凭公共证据来证明其合理性。
这个问题的重要性远远超出了理论范围。
随着人工智能系统变得更加自主，核心问题不再只是它们是否可以优化固定基准。
更困难的问题是他们是否能够以保持透明、可重播和开放审计的方式改变自己的工具、目标和评估标准。
这些假设在实践中通常很有用，但对于一个长期存在的代理来说还不够，它必须根据公共记录中的证据来扩展自己的评估者、目标和章程。
来源：Medium AI
