我的代理重试次数比应有的次数多了一点,我的账单就飞到了天上。
我尝试找出导致此问题的原因,但没有一个工具有太大帮助。
对我来说更糟糕的是所有内容都显示为聚合使用情况。
所以我最终在 OpenAI 前面拼凑了一个薄层,其中每个请求都被迫携带一些上下文(代理、任务、用户、团队),然后只记录和计算每次调用的成本,并在上面设置一些基本限制,这样如果它开始偏离轨道,你实际上可以阻止某些东西。
这是非常简单的,但即使只是看到“这个代理+这个任务=这个成本”也是一个很大的解脱。
您只是观察总体使用情况并信任它,还是已经构建了一些东西来分解每个代理/任务。
来源:HackerNews New
