10 分钟打造自己的专属豆包和 deepseek,基于 Go+React 开发了一款 Agent 编排器 Ollmo

查看 14|回复 0
作者:Hifone   
ollmo
Open LLM Orchestrator · 开源大模型编排器
数据不出门,用自己的知识库,打造专属 AI 生产力工具。


生产级 RAG 平台,提供混合检索、多租户隔离与流式对话能力。
后端基于 Go + Fiber ,前端基于 Next.js App Router + shadcn/ui 。
为什么做 ollmo
市面上的 AI 应用编排平台:工作流、节点、插件,几十个概念、上百项配置。想让 AI 帮个忙,得先花好几天学会一套复杂的系统。AI 本该让事情变简单,结果却背道而驰。
ollmo 把一切收敛成三步:上传文档、提出问题、拿到带出处的答案。一条命令部署,十分钟上手。
  • 简单 — 只做一件事并做到极致:把你的文档变成能问答的助手。
  • 易用 — 十分钟上手,不需要先学会一套比业务还复杂的系统。
  • 克制 — 不堆概念、不加多余配置,复杂留在系统内部,简单留给你。

    核心特性
  • 混合检索 — 基于 Milvus 2.5+ 的稠密 + 稀疏向量检索,支持知识库级 Rerank 配置。
  • 多租户 — MySQL 、Milvus 、MinIO 全链路逻辑隔离,所有表携带 tenant_id。
  • 文档流水线 — 上传(拖拽、粘贴、多文件)→ 解析( MinerU / 本地解析器)→ 分块 → 向量化 → 索引,全程异步( Asynq + Redis )。
  • 流式对话 — SSE 实时流式输出,带来源引用; Agent 开场白带来拟人化问候。
  • 自动记忆 — 长对话在后台自动生成摘要(异步 LLM 任务),摘要注入后续会话,实现跨对话上下文延续,支持站点级开关。
  • Agent 画布 — 可视化编排 Agent 流水线( React Flow ):意图分类 → 检索 → 条件分支 → LLM → 直接回复。支持知识库级系统提示词、温度、top_k 、Rerank 开关、开场白与 LLM 选择。
  • 数据处理流水线画布 — 可视化入库 DAG ( React Flow ):来源 → 解析器 → 分块器 → 向量化 → 存储,可配置解析选项、分块策略与批大小。
  • GraphRAG — 入库时 LLM 抽取实体与关系,查询时实体匹配增强检索上下文。
  • 模型可配置 — 租户级管理 LLM / Embedding / Rerank 模型,知识库可单独指定。选择优先级:知识库配置 → 租户默认 → config.yaml 。
  • 团队与权限 — 邀请制成员管理(所有者 / 管理员 / 成员),每用户每日消息配额,知识库级成员权限(查看者 / 编辑者 / 所有者)。
  • 管理控制台 — 超级管理员用户管理、团队管理(计划与配额:免费版 / 专业版 / 企业版)、系统设置(注册开关、自动记忆)、数据分析看板、审计日志。
  • 外部 API — API Key 鉴权的编程式访问(检索、知识库管理、流式对话)。
  • 国际化 — 中英文界面,前后端消息契约,URL 不含语言标识。

    技术栈
    [td]层[/td]
    [td]选型[/td]
    后端
    Go 1.26+ / Fiber / GORM
    前端
    Next.js 15 (App Router) / React / shadcn-ui
    数据库
    MySQL 8.0 (utf8mb4) — 元数据
    向量库
    Milvus 2.5+ — 稠密 + 稀疏混合检索
    对象存储
    MinIO ( S3 兼容)— 原始文档、解析产物、缩略图
    任务队列
    Asynq + Redis — 解析、向量化、索引重建、自动摘要
    文档解析
    MinerU (容器化,可选 GPU )+ 本地解析器
    认证
    本地账号(邮箱 + 密码 + JWT )
    项目地址:
    https://github.com/ollmo-go/ollmo
    https://gitee.com/ollmo-go/ollmo
    官网地址:
    https://ollmo.com/
    欢迎大家点赞,感谢大家。
  • 您需要登录后才可以回帖 登录 | 立即注册

    返回顶部