首先,我先声明一点:有两种方案,一个是WSL2,对Windows用户不太友好,需要在管理员 PowerShell 中安装 WSL2,WSL2 = 让你在 Windows 电脑上,按 Linux 的方式装和用 Hermes术语解释Hermes Agent项目名与产品名。Hermes Agent 是项目和产品的正式名称。文档、GitHub 仓库、安装命令、社区讨论和搜索结果都统一使用这一写法。

  • 长期使用 / 工具链完整 / 网关与自动化更省心:优先选 WSL2
  • 只是想先在 Windows 本机跑通 CLI术语解释CLI命令行界面。就是你在终端里输入命令和 Hermes 交互的方式,例如 `hermes`、`hermes model`、`hermes update`。:可以直接用 PowerShell

我在这里用的是Windows直装:虽然容易踩坑,但是对于很多小白很友好

一、先完成当前 Hermes Agent 配置

Win 搜索 power shell,点击打开输入这条命令:

irm https://res1.hermesagent.org.cn/install.ps1 | iex

等待加载完……

选择对新手友好的:第一个Quick setup(推荐新手使用)

这里我选的是3:LM studio

二、下载并配置 LM Studio(关键步骤)

1. 下载 LM Studio

官网地址:https://lmstudio.ai/

  • 选 Windows 版本下载安装,全程默认下一步就行。
  • 打开 LM Studio,界面长这样:

2. 下载一个「免费、功能强」的本地模型

我们选 Qwen 2.5 7B / 14B 或者 Llama 3.1 8B,这两个是目前本地免费模型里,Agent 任务表现最好的:

  1. 在 LM Studio 顶部搜索框输入:qwen2.5 7bllama 3.1 8b
  2. 选一个带 GGUF 后缀的文件,选 q4_k_m 量化版本(平衡性能和速度,普通电脑都能跑)
  3. 点击下载,等进度条走完。

3. 启动本地模型服务

  1. 点左侧的 Local Server 标签
  2. 顶部「Select a model」下拉框,选你刚下载的模型
  3. 点右上角 Start Server,看到绿色的「Running」就成功了!
  4. 默认地址是:http://localhost:1234/v1,端口 1234,不用改。

三、回到 Hermes Agent 配置

现在回到你的 PowerShell 窗口,配置 LM Studio:

  1. 它会问你 OpenAI-compatible base URL,直接填:texthttp://localhost:1234/v1
  2. 问你 API Key,随便填个假的就行(比如 lm-studio),因为是本地模型,不需要真实 Key:textlm-studio
  3. 问你模型名称,填你下载的模型全名(比如 qwen2.5-7b-instructllama-3.1-8b-instruct),回车确认。

常见问题:

1.比如说你在使用一个模型的时候,比如说这个LFM2 model,他在终端运行的时候经常会遇到上下文窗口问题,这个时候我们只需要把这个model的上下文长度调整到(比如我这个模型Load到65536)

这样就可以正常对话,这是一个坑

作者 bracku

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注