大语言模型能不能并发

3次

问题描述:

大语言模型能不能并发,求解答求解答,第三遍了!

最佳答案

推荐答案

不能并发推理。有些模型训练没有做padding,这会影响模型后续的应用性能。

·问题二:一些模型训练没有采用注意力遮罩,如果继续训练,这会影响模型的能力甚至崩溃。

为你推荐