观澜Media

AI技术 · 深度资讯 · 前沿观察

上下文膨胀:GenAI 预算的无声杀手

GenAI 演示令人印象深刻,但生产系统价格昂贵。..

GenAI 演示令人印象深刻,但生产系统价格昂贵。

大多数团队直到为时已晚才意识到成本不是来自模型,而是来自您发送给模型的所有内容。

系统运行良好,用户很满意,没有发生任何重大变化。

我们尝试了切换模型、调整参数和减少输出标记,但没有任何效果产生有意义的变化。

有一个普遍的假设,即更多的背景会带来更好的结果。

事实上,他们经常在短期内提高质量。

来源:HackerNoon

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注

关于我们

观澜Media

AI技术 · 深度资讯 · 前沿观察。专注科技、AI、互联网领域的深度报道与前沿资讯。

搜索归档

Access over the years of investigative journalism and breaking reports