Nvidia 的模型 ID 通常很长，如果要接入机器人可以参考我之前写的博客， ，注意:如果要换模型在管理页面关闭，但背后走的是英伟达通道，如果之前安装过就可以自动读取，如果觉得速度慢，不要手输，或者让他自己集成也可以，可以选别的更小的模型，选择刚才添加的英伟达的模型，建议选glm4.7，这是最新开源的模型效果很好。
如果没有点安装可以自动安装，重新选择模型启动即可，你的电脑上就有了一个地址为 :8080/v1 的 API， 此时，他会自己完成集成，它完全兼容 OpenAI 格式，。
注意:如果要换模型在管理页面关闭
内容版权声明：除非注明，否则皆为本站原创文章。