[论文阅读]Gist-token:将instruction压缩到虚拟token
论文链接：https://arxiv.org/pdf/2304.08467v1.pdf 压缩instruction部分的token长度 主要做什么事情 LLM的指令微调数据输入的格式是（instruction,query,answer）格式，分别使用t,x,y指代，在这种格式下目前的训练策略…
阅读全文文章标签
浏览带有这个标签的已发布技术文章。
论文链接：https://arxiv.org/pdf/2304.08467v1.pdf 压缩instruction部分的token长度 主要做什么事情 LLM的指令微调数据输入的格式是（instruction,query,answer）格式，分别使用t,x,y指代，在这种格式下目前的训练策略…
阅读全文