强大的中转服务功能

为您的AI应用提供稳定、高效的API中转服务,连接全球AI能力

🔌

OpenAI兼容接口

完全兼容OpenAI API格式,无需修改现有代码即可无缝迁移。支持Chat Completions和Completions两种接口模式,提供统一的API调用方式。

  • 聊天模式:使用messages数组进行多轮对话
  • 补全模式:使用prompt字符串进行文本补全
  • 统一接口:POST /xlei/v1/completions
  • 自动路由:后端根据参数自动判断处理模式
🔄

流式响应支持

默认启用SSE流式响应,实时获取模型回复,提升用户体验。支持低延迟的数据传输,让AI交互更加流畅自然。

  • SSE协议:Server-Sent Events实时推送
  • 默认启用:无需指定stream参数
  • 低延迟:毫秒级数据块推送
  • 渐进式显示:支持打字机效果展示
🤖

智能模型选择

后端自动选择最佳可用模型,无需用户指定。支持多模型自动路由和负载均衡,确保服务的高可用性和稳定性。

  • 自动选择:根据负载和可用性选择最佳模型
  • 故障切换:模型不可用时自动切换备用
  • 负载均衡:智能分配请求到多个模型
  • 透明处理:用户无需关心底层模型细节
💳

多支付方式

支持多种支付方式,方便快捷充值。提供灵活的计费模式,满足不同规模用户的需求。

  • 微信支付:支持个人和企业支付
  • 支付宝:便捷的移动端支付
  • PayPal:支持国际支付
  • 套餐购买:多种Token套餐可选
📊

实时流量统计

详细的API使用统计,随时掌握使用情况。提供实时Token消耗统计、调用次数统计和历史记录查询。

  • 实时统计:Token消耗实时更新
  • 调用记录:完整的API调用历史
  • 趋势分析:使用量趋势图表
  • 告警通知:余额不足时提醒
🔒

安全可靠

多重安全保障,保护您的数据和API Key。采用企业级安全标准,确保数据传输和存储的安全性。

  • API Key加密:AES-256加密存储
  • 请求频率限制:防止恶意攻击
  • HTTPS传输:TLS 1.3加密通信
  • 访问日志:完整的操作审计

技术架构

⚙️

Go语言

高性能后端服务

🐬

MySQL

稳定的数据存储

🔴

Redis

高速缓存层

🚀

Gin框架

高性能Web框架

快速接入示例

curl 请求示例

curl -X POST http://localhost:8080/xlei/v1/completions \
  -H "Content-Type: application/json" \
  -H "Authorization: Bearer sk-your-api-key" \
  -d '{
    "messages": [{"role": "user", "content": "Hello"}]
  }'

响应格式(流式)

data: {"id":"chatcmpl-xxx","object":"chat.completion.chunk","created":xxx,"model":"gpt-3.5-turbo","choices":[{"index":0,"delta":{"role":"assistant","content":"Hello"},"finish_reason":null}]}

data: {"id":"chatcmpl-xxx","object":"chat.completion.chunk","created":xxx,"model":"gpt-3.5-turbo","choices":[{"index":0,"delta":{"content":"!"},"finish_reason":null}]}

data: [DONE]