山中砾

山中砾

Windows下如何使用LM Studio部署本地大模型

2025-06-25

安装

  1. 访问LM Studio官网:https://lmstudio.ai/并根据页面提示进行下载。

  2. 根据提示进行安装,或查看LM Studio文档获取详细信息。

导入模型

  1. 选择模型: LM Studio 支持多种流行的 LLMs,例如 deepseek-r1QWQLlama3.3。你也可以访问https://huggingface.co/models 查看可用模型的列表。当然,LM Studio 内置了一个模型下载器,可以让你更便捷的从 Hugging Face 下载任何支持的模型。

  2. 加载模型:由于有简洁清晰的UI界面,加载模型非常便捷,看到什么选什么即可。你也可以使用命令行(windows下按win+R键输入cmd进入)在终端中加载你下载的GGUF模型:

    lms import <path/to/model.gguf>

设置项

全图形化操作,非常简单!如图设置即可让本机其他应用调用API。