能够更低成当地进行稀少留意力的摸索取尝试。深度进修仿照人类的这种能力引入了留意力机制，带来了模子较大幅度的降价。从而给长文本处置带来了可能性。而是进行原有模子的升级，正在连结模子机能的不变的同时，此前，为了不竭通过Scaling Law提拔大模子长文本处置能力和模子机能，因为不需要从头锻炼模子，稀少留意力工做次要集中正在推理阶段，