返回 AI 工具目录

lanarky

基础设施人工精选最近核验 2026年7月23日

Lanarky 是一个面向大模型微服务的 Python Web 框架,基于 FastAPI 构建,为构建 LLM 驱动的后端接口提供抽象层。它内置 HTTP 与 WebSocket 的流式响应支持,强调不绑定特定模型供应商,让开发者以较少代码把大模型能力封装成可部署的微服务,适合快速把提示链或对话逻辑暴露成 API。需注意项目已进入维护模式,作者声明不再新增特性、仅处理关键缺陷,选型时应把它当作稳定但停更的轻量框架看待,而非持续演进的平台。

定价开源部署本地运行、自托管国内可达国内可达

解决什么问题

  • 基于 FastAPI 把大模型逻辑封装成 HTTP 微服务
  • 内置 HTTP 与 WebSocket 流式响应
  • 提供不绑定供应商的 LLM 接口抽象
  • 减少手写路由与流式传输的样板代码

适合

  • 已用 FastAPI,想快速加上大模型流式接口
  • 需要 WebSocket 或 SSE 推送模型增量输出
  • 构建轻量 LLM 微服务的原型或内部工具
  • 偏好 Python 且不想绑定单一模型供应商

不适合

  • 项目已停更,不宜作长期演进的核心依赖
  • 只做服务层,不含检索、记忆等编排能力
  • 关键缺陷才会修复,新特性需求无法满足
  • 非 Python 栈或需商业支持的团队不适用

如何接入

  • pip 安装后在 FastAPI 应用内定义路由
  • 通过适配器对接不同大模型供应商 SDK
  • 流式输出经 HTTP 或 WebSocket 推送前端
  • 可复用 FastAPI 生态的中间件与部署方式

已知限制

  • 官方已声明进入维护模式,不再新增功能
  • 所依赖的大模型 API 多在境外,需自备网络
  • 文档与示例以英文为主
  • 抽象层较薄,复杂编排仍需自行实现

接入与使用事实

部署方式
本地运行、自托管
实现语言
Python
中文界面
待确认
中文文档
待确认
定价方式
开源
许可证
待确认
国内可达性
国内可达
可达性观察
待补充

权限、依赖与维护信号

这些字段记录公开可见信号,不等同于安全审计结论。

权限信号

暂无公开信号。

依赖信号

暂无公开信号。

维护信号

暂无公开信号。

公开来源与证据

暂无可公开的来源链接。

访问官网