【教程】黑五的吃灰小鸡怎么办?搭建多模型一站式AI平台

查看 25|回复 2
作者:shc   
大家好呀!距离上一次在loc和博客发布教程已经3年多了。
今天介绍一下如何利用吃灰小鸡搭建自己的多模型一站式AI平台,分享给身边朋友们家人们用还是相当方便的。
详细全文戳博客  https://qing.su/article/linux-ai-platform-with-coai.html
用到的程序是免费开源版的COAI/ChatNIO,支持GPT/Claude/Dalle/Midjourney/等等各种模型,也支持新的gpt-o1-preview和gpt-o1-mini.  文中使用的是Ubuntu 24.04系统,其它系统也类似。


我也不知道为啥,加上代码就直接403,于是把教程写在楼下吧
  

教程, 小鸡, 一站式

shc
OP
  
   
1. 安装MySQL + Redis
[ol]apt install redis-server[/ol]复制代码[ol]apt-get install npm golang-go mysql-server
mysql -u root -p
ALTER USERER 'root'@'localhost' IDENTIFIED BY 'password';
CREATE DATABASE coaidb;
CREATE USER 'coaiuser'@'localhost' IDENTIFIED BY 'password2';
GRANT ALL ON coaidb.* TO 'coaiuser'@'localhost';
FLUSH PRIVILEGES;
QUIT;[/ol]复制代码
shc
OP
  
2. 编译安装COAI
[ol]cd /opt
git clone https://github.com/coaidev/coai.git
cd coai
cp config.example.yaml config.yaml[/ol]复制代码
在config.yaml中填好数据库信息,然后编译安装。
[ol]cd app
npm install -g pnpm
pnpm install
pnpm build
cd ..
go build -o coai[/ol]复制代码
建好systemD服务 /etc/systemd/system/coai.service
[ol][Unit]
Description=COAI Service
[Service]
Type=simple
User=root
WorkingDirectory=/opt/coai
ExecStart=/opt/coai/coai
Restart=always
[Install]
WantedBy=multi-user.target[/ol]复制代码
[ol]systemctl daemon-reload
systemctl start coai.service
systemctl enable coai.service[/ol]复制代码
3. 设置Nginx反代
[ol]apt-get install nginx certbot python3-certbot-nginx -y
cp /opt/coai/nginx.conf /etc/nginx/conf.d/coai.conf[/ol]复制代码
编辑/etc/nginx/conf.d/coai.conf,加一行
[ol]server_name example.com[/ol]复制代码
重新加载Nginx
[ol]nginx -t
service nginx reload[/ol]复制代码
配置Let's Encrypt
[ol]certbot --nginx --redirect --hsts --staple-ocsp -d example.com[/ol]复制代码
安装完毕后,在后台配置好API就可以了。具体的图文可以参考我的博客文章
https://qing.su/article/linux-ai-platform-with-coai.html
如果有任何疑问,欢迎留言讨论哈~
您需要登录后才可以回帖 登录 | 立即注册

返回顶部