欢迎大家试用反馈,觉得有用的话,欢迎点个
。
前文见: [开源] AI 网关 AxonHub 发布 v0.9.0 ,迈向 1.0 前的最后一步
其实还只是第一个 alpha,只是一个能跑的阶段,不过还是得拿出来和大家介绍下,让大家瞧瞧。
截止目前 AxonHub 主要的功能都是 AI 网关相关的,但是项目的 README 一直介绍的是 All in one development platform,在 L 站宣传的时候,也一直说要做 agent ,那么到底 AxonHub 和 agent 有啥关系呢。
这就给大家介绍一下 AxonHub 1.0 引入的新功能。
AxonHub
我个人对 Agent 的理解大致如下图
可以简单的理解为:提示词 + tools 输入给 Runtime,然后 Runtime 负责调度大模型调用,解析调用结果和工具执行,以及因为当前模型限制,会有一些针对上下文管理,记忆管理,skills 等优化策略。
可以看到主要分别两部分
-
不怎么变的部分:Runtime,调度 + 工具执行
-
变的部分:prompt + tools
所以 AxonHub 分别针对两个部分,给出解决方案
-
axon:一个 agent 运行时框架,主要参考了 pi
-
hub:引入 agent 配置管理,可以在 AxonHub 管理后台
-
管理 agent
-
tools 和 prompt
-
当前只支持 axon 内建的几个 tools,未来可能会支持使用脚本编写 tools
-
-
axon 启动的时候,从 hub 拉取 prompt 和 tools 配置,然后运行,流程如下:
这个其实也是 AxonHub 的名字来源,axon 类似于一个神经网络中的边缘突触,然后被 hub 管理,一个 hub 可以管理很多很多的 axon。
然后我自己也基于 axon 做了两个应用,下面介绍。
AxonClaw
这个月 openclaw 太火了,所以也来蹭一个热点。
基于 axon 框架做了一个类似的应用,不过也不是完全复刻,得用到 hub 的能力,所以设计如下:
-
引入 agent host 概念, agent host 可以是 linux 或者 docker
-
新建一个 agent,并且这个 agent 可以发布任意多个实例到 host
-
当前这个 agent 的 runtime 就是 axonclaw
-
后续可以运行自定义 agent runtime
-
-
可以在 hub 通过 message 操作 agent
- 后续计划支持 IM 软件集成
-
这样就可以只配置一次 AxonHub,就可以运行无数个 claw 了,新建 claw,销毁 claw 是一件轻量级的事情
注意
- 现在只是一个极度不完善的版本,只是一个玩具,请使用空闲,没有敏感信息,不需要日常使用的机器上使用,推荐使用 docker
AxonCli
这是另外一个基于 axon 的应用,但是没用到 hub 能力,这是用来验证 axon 框架各种能力的一个 demo 项目,从结果来看感觉是不错的,用 taste-skill + glm-4.7 做了一个自己的介绍页面,还挺不错的。
现在没什么优化,没上下文管理,没有 sub agent 基本纯靠模型能力。
最后
这个 alpha 版本可能会持续挺长一段时间,所以现在会维护两个分支,一个是 v0.9.x 专注网关功能和 bug 修复。
v1.0.x 完善 agent 相关能力,现在肯定有很多 bug,使用过程中有问题,部署不上,不要急,提个 bug 和 issue 就好。
有更多想法的欢迎一起讨论 https://github.com/looplj/axonhub/issues/953 , 然后有部分同学可能只想使用网关能力,也欢迎一起讨论。
最后的最后,有能力的佬,有么有想法赞助或者投资一下的。


