自己做中转站遇到的坑总结

查看 11|回复 0
作者:Croath   
上个月开始运营 AI 中转站 鱼鱼连线 https://yylx.io 开始以为应该不算难,因为看到不少十几岁的人在做,结果上来之后就踩了一堆坑,钱也投进去不少,最近算是刚从一堆大坑里爬出来。
框架选择
上来肯定想直接用,先不早自己的轮子,市面上就是 sub2api 和 newapi 这两家大的,刚开始看的时候觉得都差不多,就选了 sub2api ,结果用起来发现问题一大堆,bug 也有,没设计好的地方也有。(这里不是黑,因为每个人做的时候需求都不一样,肯定有开源作品没考虑到的问题)
后来发现有些问题 newapi 早就有解决方案了,就用 newapi 又搭建了一套,刚开始很爽,但用着用着发现有一些 sub2api 的基础功能 newapi 根本没有。
这两套系统并没有太多感觉谁比谁强的样子,都是各有优势,也各有不足,只能选定一套之后做二次开发。但是这两套系统源码都几十万行了,vibe 起来并不容易,如果只读一部分代码就开始 vibe 很容易出问题,总之开发起来要格外小心。
号池构建
先是自己注册了几个账号,用的自己名下的纯境外本地银行注册的信用卡,用得特别顺,就琢磨着开始增量了,于是找了以前熟悉的 kyc 老哥帮忙做号,老哥的号做出来之后放进去结果又来新坑了:
那些容易注册的 U 卡啊、虚拟卡啊,基本上都没法支付成功,有的是碰运气成功率比较低,Anthropic 对号段卡得很严格。有的是能支付成功,但是用起来就是没有正规卡那么稳,很容易封号。总结起来就是越容易搞到的虚拟卡搞到中转站封控规则越严格。于是要找真人的正规卡支付,注册账号的成本就一下子上来了。
注:这是 5 月份的经验了,后来越来越严格了更多 U 卡都无法支付了。
稳定性
稳定性一直是个大问题,每天都在修修补补提升稳定性。不说我这端的,A\ 这个月 SLA 连 99 都没守住,一直在 98-99 之间。
我这端主要涉及的是账号被封之后自动切换账号重试造成的问题,细节不展开了,各种甲叠来叠去。
还有一些基础架构上的问题,比如我全站都是在 Cloudflare 后面的,但是有一些耗时的请求时间要超过 120s 无反馈(比如生成图片)就被 CF 直接砍断了,要延长这个时间就要升级到最贵的 enterprise 套餐,一个月好几千美金起步。直接暴露又不是办法,中间还要暴露一个跳板给直连,同时维护跳板的安全性。
有时候封控规则更新了,号池大批阵亡,但好在还能用,客户自己注册的账号很多直接阵亡了,我们这时候作为备用方案还是比较 OK 的,甚至直接升级为客户的主方案了。
客户质疑
客户每天有不少问题要问,比如:
  • 你是不是拿低价模型冒充高价模型了?(我的解答: https://www.youtube.com/watch?v=OBOgqRlmNmM )
  • 为什么系统显示我睡觉的时候 token 还有消耗?是不是你偷偷给我计费了?(我的解答: https://www.xiaohongshu.com/explore/6a3b6ee4000000001102c287
  • 你如何证明你没存储我的数据?(摊手,无法自证,可以签合同
  • 为什么别家有 fable-5 你没有?(我没和美国战争部签订单那是真没有可能别家签了吧,时间点 2026.06.28 或许过几天就有了
  • 你的 Claude/Codex 不如昨天聪明,你是不是偷偷用垃圾模型偷换了?( 99% 的客户都拿不出同一个案例的复现对比场景,而且有时候是官方真的在降智

    这些问题最开始我自己用的时候也都遇到过,所以基本上每个客户问我都会好好解释一番,大部分客户都能接受,毕竟刚开始用的时候就是会心存疑虑,行业里也鱼龙混杂,有怀疑都正常,基本上每天有 50% 工作花在和客户聊天上。
    恶意攻击
    网络攻击就不说了,cf 帮我挡下了大部分,继续给赛博菩萨上香。
    针对号池的攻击包括:
  • 恶意向 AI 对恋童、儿童色情、制造恐怖主义的问题进行提问
  • 恶意生成色情图片
  • 向非特定号池提问硬蒸馏问题
  • 伪装请求,在里面故意放入非标准请求格式让官方风控识别

    太多了列不完,现在遇到一个加一道防护,也没有太多别的办法。但是最困难的是因为没有留存原始数据,很多时候只能通过接口报错信息分析,处理起来就会滞后许多。
    总结
    一时能想起来的就这么多,后面遇到问题再来更新吧,也欢迎客户和同行来交流和合作,网站注册之后右上角有联系方式~
  • 您需要登录后才可以回帖 登录 | 立即注册

    返回顶部