关于单条消息的字数上限
mistrey ·
Hi yumina 官方,我遇到了这么一个情况:当前单条消息存在一个输入上限 (大概是15k字符左右?)
基本上99%的场合不用这么大或者更大啦,但是我的使用场景是自己玩的很久的一张卡有时候会作聊天记录迁移,大概就是把一次对话的记录自己用AI总结一下,开一个新对话重新输入进去,这样子能防止上下文过长写故事的AI失去注意力
however, 尽管我已经控制和压缩这段‘总结’的文本的量了,最近还是基本上触碰到上限了😂
*可以请你们调高一些或者让我们可以自己稍微设置一下吗,虽然日常用不到啦,不过模型的上下文可是很多都支持1M tokens了,应该不会多太多负担吧 … *
tks !