观澜Media

AI技术 · 深度资讯 · 前沿观察

问 HN:你们如何防止人工智能编码代理烧钱?

我的代理重试次数比应有的次数多了一点,我的账单就飞..

我的代理重试次数比应有的次数多了一点,我的账单就飞到了天上。

我尝试找出导致此问题的原因,但没有一个工具有太大帮助。

对我来说更糟糕的是所有内容都显示为聚合使用情况。

所以我最终在 OpenAI 前面拼凑了一个薄层,其中每个请求都被迫携带一些上下文(代理、任务、用户、团队),然后只记录和计算每次调用的成本,并在上面设置一些基本限制,这样如果它开始偏离轨道,你实际上可以阻止某些东西。

这是非常简单的,但即使只是看到“这个代理+这个任务=这个成本”也是一个很大的解脱。

您只是观察总体使用情况并信任它,还是已经构建了一些东西来分解每个代理/任务。

来源:HackerNews New

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注

关于我们

观澜Media

AI技术 · 深度资讯 · 前沿观察。专注科技、AI、互联网领域的深度报道与前沿资讯。

搜索归档

Access over the years of investigative journalism and breaking reports