OpenAI

# 判断是否 Block
# 可能返回 403 - 因为 CF Challenge
curl https://sora.com/backend/public/authenticate

# 40 messages / 3 hours
curl https://chatgpt.com/public-api/conversation_limit

价格

• 1M tokens 大约 50 万字

• InstructGPT - 单个指令生成
  • Ada - $0.0004 / 1K tokens
    • 最快
    • 可以 Embedding
  • Babbage - $0.0005 / 1K tokens
  • Curie - $0.002 / 1K tokens
  • Davinci - $0.02 / 1K tokens
    • 最强
• Fine-tuning InstructGPT
  • 训练价格 ~= 基础模型
  • 使用价格 = 训练价格 x 4
• DALL·E
  • 1024×1024 $0.02/image
  • 512×512 $0.018/image
  • 256×256 $0.016/image
• Audio
  • Whisper $0.006 / minute
• openai.com/chatgpt/pricing
• platform.openai.com/docs/pricing
• chatgpt.com/public-api/conversation_limit
  • 检测 IP 是否可用

Models

• gpt-3.5-turbo-0613
  • 16K 上下文

API

• platform.openai.com/docs/api-reference
• platform.openai.com/docs/models/model-endpoint-compatibility
• chatgpt

curl https://api.openai.com/v1/models \
  -H "Authorization: Bearer $OPENAI_API_KEY" \
  -H "OpenAI-Organization: YOUR_ORG_ID"

限制

• TPM - tokens per minute - Token/分钟
• RPM - requests per minute - 请求/分钟
• 限制是组织维度
• 替代方案
  • Azure OpenAI
  • 多组织
• 1 token ~= 0.5-1 汉字, 1 token ~= 4 字母
• avg 15 token/s, min 0.7 token/s, max 50 token/s - 基于历史消息统计
• 3,500 RPM, 90,000 TPM - 1 个账号，两种维度限制，请求 和 Token
  • 3500/60 = 58.3 RPS ~ 60/s 并发请求
  • 90000/60 = 1500 TPS
    • 1500/50 = 30/s 并发请求 - 回复内容多
    • 1500/15 = 100/s 并发请求
    • 1500/0.7 = 2142/s 并发请求 - 回复内容少
• 限流都是分钟级别
  • 也就是说持续 1 分钟 RPS 达到 60 就会有问题 - 例如: 1 分钟有 3600 人操作，每秒操作 1。次
  • 基于 Token 的限制则影响有多少个持续的回答

• platform.openai.com/docs/guides/rate-limits

fin tune

pip install --upgrade openai
export OPENAI_API_KEY="<OPENAI_API_KEY>"
# openai tools fine_tunes.prepare_data -f <LOCAL_FILE>

# ada, babbage, curie, davinci
openai api fine_tunes.create -t <TRAIN_FILE_ID_OR_PATH> -m <BASE_MODEL>
openai api fine_tunes.follow -i <YOUR_FINE_TUNE_JOB_ID>

依赖包openai

API

1. Assistants - 构建可以调用模型和使用工具的助手
2. Audio - 音频转文本或文本转音频
3. Audit Logs - 列出组织内的用户操作和配置更改
4. Batch - 创建大批量API请求以异步运行
5. Chat - 根据对话消息列表返回响应
6. Completions - 根据提示返回预测完成内容
7. Conversations - 管理对话和对话项目
8. Embeddings - 获取输入的向量表示
9. Evals - 在OpenAI平台中管理和运行评估
10. Files - 上传文档用于助手和微调等功能
11. Fine-tuning - 管理微调作业以针对特定训练数据定制模型
12. Graders - 在OpenAI平台中管理和运行评分器
13. Images - 根据提示和/或输入图像生成新图像
14. Models - 列出和描述API中可用的各种模型
15. Moderations - 对文本和/或图像输入进行潜在有害性分类
16. Uploads - 使用多部分上传大文件

FAQ

• Sora - Supported Countries help.openai.com/en/articles/10250692
• ChatGPT Supported Countries help.openai.com/en/articles/7947663

{
  "error": {
    "message": "This key is associated with a deactivated account. If you feel this is an error, contact us through our help center at help.openai.com.",
    "type": "invalid_request_error",
    "param": null,
    "code": "account_deactivated"
  }
}

{
  "error": {
    "code": "unsupported_country_region_territory",
    "message": "Country, region, or territory not supported",
    "param": null,
    "type": "request_forbidden"
  }
}

Rate limit reached for default-gpt-3.5-turbo in organization org-xxx on requests per min. Limit: 60 / min.

Rate limit reached for default-gpt-3.5-turbo in organization org-xxx on requests per min. Limit: 60 / min. Please try again in 1s. Contact us through our help center at help.openai.com if you continue to have issues.

您的银行卡被拒绝了。

Access denied

尝试不用 VPN 或者换 VPN

清理 Auth 信息

javascript:window.localStorage.removeItem(Object.keys(window.localStorage).find(i=>i.startsWith('@@auth0spajs'))

SSO

• 访问 chatgpt.com/auth/login_with?auth_flow=auth0
• 当跳转为 auth.openai.com 的时候，修改 URL hostname 为 auth0.openai.com
• 正常登陆

• www.reddit.com/r/ChatGPT/comments/1eloa0j

There is a problem with your request HKG

• 不能用 Hong Kong IP