我们开发它的起因是因为在实际项目中,经常需要调用多个大语言模型的 API ,但是国内每个大语言模型的接口和参数都不一样,这给我们的工作带来了很大的困扰和额外的成本。UnionLLM 的目标是通过统一且容易扩展的方式连接各种大语言模型,使得我们可以更方便地使用多个大语言模型。
https://github.com/EvalsOne/UnionLLM
UnionLLM 目前支持的国内大语言模型包括:
智谱 AI
月之暗面 Moonshot
百度文心一言
阿里巴巴通义千问
MiniMax
讯飞星火
百川智能
昆仑天工
UnionLLM 目前专注于实现国内模型的调用。为了广泛兼容更多模型厂商且不重新造轮子,UnionLLM 会通过 LiteLLM 实现海外模型上的调用。
希望能对大家有所帮助,也希望各位 Python 高手多提建议!