看书堂小说网

笔记本电脑上跑，就是使用高性能GPU的台式机，也无法带得动啊。老老实实调用API不好吗？其实，LLM（大语言模型）有非常宽泛的参数量范围。咱们今天介绍的这个模型GPT4All只有70亿参数，在LLM里面现在算是妥妥的小巧玲珑。不过看这个名字你也能发现，它确实是野心勃勃，照着ChatGPT的性能去对标的。GPT4All基于Meta的LLaMa模型训练。你可能立即觉得不对，你这跟GPT有啥关系？为什么要无端蹭热度？且慢，GPT4All确实和ChatGPT有关——它用来微调的训练数据，正是调用ChatGPT产生的大量问答内容。我怕你对技术细节不感兴趣，因此只用下面这张图来说明GPT4All的训练过程。??GPT4All其实就是非常典型的蒸馏（distill）模型——想要模型尽量靠近大模型的性能，又...