最近重写了一个业余项目 - 在一个 p2p 的网络上跑 LLM ，目前实现比较简单：通过 p2p 把 request forward 到对应的节点的 port 上，目前兼容了 OpenAI 的 API ，理论上应该可以和大部分 OpenAI 的应用兼容。现在跑了两个模型，可以在 chatbot 的界面里看到。
长期目标有两个：
GitHub: https://github.com/autoai-org/OpenComputeFramework
另外感谢开源的 UI 实现： https://github.com/anse-app/anse
