为您的AI应用提供稳定、高效的API中转服务,连接全球AI能力
完全兼容OpenAI API格式,无需修改现有代码即可无缝迁移。支持Chat Completions和Completions两种接口模式,提供统一的API调用方式。
默认启用SSE流式响应,实时获取模型回复,提升用户体验。支持低延迟的数据传输,让AI交互更加流畅自然。
后端自动选择最佳可用模型,无需用户指定。支持多模型自动路由和负载均衡,确保服务的高可用性和稳定性。
支持多种支付方式,方便快捷充值。提供灵活的计费模式,满足不同规模用户的需求。
详细的API使用统计,随时掌握使用情况。提供实时Token消耗统计、调用次数统计和历史记录查询。
多重安全保障,保护您的数据和API Key。采用企业级安全标准,确保数据传输和存储的安全性。
高性能后端服务
稳定的数据存储
高速缓存层
高性能Web框架
curl -X POST http://localhost:8080/xlei/v1/completions \
-H "Content-Type: application/json" \
-H "Authorization: Bearer sk-your-api-key" \
-d '{
"messages": [{"role": "user", "content": "Hello"}]
}'
data: {"id":"chatcmpl-xxx","object":"chat.completion.chunk","created":xxx,"model":"gpt-3.5-turbo","choices":[{"index":0,"delta":{"role":"assistant","content":"Hello"},"finish_reason":null}]}
data: {"id":"chatcmpl-xxx","object":"chat.completion.chunk","created":xxx,"model":"gpt-3.5-turbo","choices":[{"index":0,"delta":{"content":"!"},"finish_reason":null}]}
data: [DONE]