Releases: MoonshotAI/moonpalace
Releases · MoonshotAI/moonpalace
v0.12.0
v0.11.10
v0.11.10 修复 --auto-cache 选项被默认开启的问题
v0.11.9
v0.11.9 解决某些特殊场景下,使用自动缓存功能导致程序异常的问题
v0.11.8
v0.11.8 修复了在某些使用缓存的场景可能导致 key 混用的问题
v0.11.7
v0.11.7 解决 Tools 与 Cache 的兼容性问题
v0.11.6
v0.11.6 现在 --endpoint 参数不指定 http(s) 也能正常工作了
v0.11.5
v0.11.5 解决了在使用 tools 创建缓存时报错的问题
v0.11.0
v0.11.0 更新 --predicate 查询语法
现在支持以下语法:
- 使用括号组合
--predicate查询条件; - 使用
field @ [lit1, lit2, lit3]执行IN查询; - 使用
field % '^regexp$'执行正则表达式查询;
v0.10.0
v0.10.0 MoonPalace 现在支持自动创建和使用缓存
你可以通过 --auto-cache 参数启用自动缓存功能,并搭配 --cache-min-bytes/--cache-ttl/--cache-cleanup 参数调节缓存的各项参数:
$ moonpalace start --port <PORT> --auto-cache --cache-min-bytes 4096 --cache-ttl 90 --cache-cleanup 86400--cache-min-bytes 参数指定了当调用 /chat/completions 接口时,请求的内容大小超过 --cache-min-bytes 设定的值时,将会自动启用缓存:
- 若当前请求内容不匹配任何已经创建的缓存时,创建一个新的缓存,有效时间为
--cache-ttl设定的值; - 若当前请求内容匹配了已经创建的缓存时,使用已创建的缓存,并刷新缓存有效时间,有效时间为
--cache-ttl设定的值;
--cache-cleanup 参数指定了缓存何时被清除,若已经创建的缓存在 --cache-cleanup 设定的时间(秒)内没有被使用过,将会被 MoonPalace 清除。
v0.9.13
v0.9.13 代码优化