即刻App年轻人的同好社区
下载
App内打开
Kenny_肯尼
11月前
小红书的AI翻译为什么这么快? 因为提前翻译做了缓存。如何推导实现逻辑:

1. 大模型的速度基本是一个字一个字吐出来,不可能一点翻译,立马展示翻译。所以判断,肯定是提前做了翻译缓存

2. 如何验证上述猜想?反复点击翻译,你会发现每次的结果都一样,否则每次点击调用大模型,结果会不一样。

3. 那应该什么时候把评论送翻呢,会不会存在还没翻译完,其他用户就点击翻译评论? 一个合规知识,你在互联网上看到的所有内容其实都经过审核,评论更不例外。用户写了评论,送去机器审核,同时拿去翻译,等审核通过后,大概率翻译结果也返回了,所以用户看到评论原文时,译文几乎也都同时存在了
3112

来自圈子

圈子图片

AI探索站

101267人已经加入