2023 OpenAI 开发者大会总结

精华帖6个月前更新 小蝶@葫芦娃AI
13.6K 0 0
大家好,2023年11月7日OpenAI 开发者大会上公布了多个重大更新,跟大家总结一下:
汇总的脑图放文章结尾了~

ChatGPT

汇聚了超过200万开发者
超过92%的财富500强企业在使用ChatGPT
WAU(周活跃用户数)超过1亿

重大更新

现在无需预先选择功能,所有功能已融合为一体,模型会自动决定是否调用相关功能。
新推出GPTs,这是类似 Agents 概念的初级版本,提供了基于图形的纯自然语言交互配置界面。用户、开发者和企业都能通过它构建专属的ChatGPT版本,包括自定义文档功能,并能连接个人日历。GPT Store预计将于月底推出。

GPT-4 Turbo

  1. 1. 扩展的上下文长度
GPT-4 Turbo 支持的上下文长度最高可达128K Token,这大约是GPT-4当前能力的16倍,同时在准确度上也有所提升。
  1. 2. 加强的细粒度控制
API 新增了两个参数来增强控制力度:
JSON 模式:通过“response_format”参数可以仅输出JSON(当然,Prompt 也必须同时要求输出JSON)
新增参数:“seed”:可以指定一个整数作为 API 调用的 seed 值。只要在其他所有参数保持一致(包括 Prompt 和 temperature)的情况下使用相同的 seed 值,模型将会产生相同的输出。相应的,响应中的 system_fingerprint 值也会保持一致
接下来几周可以在 API 查看概率对数(Log Probs,在自然语言处理模型中,表示生成某个词或者序列的对数概率,来计算和选择下一个最可能的词。)
JSON mode
https://platform.openai.com/docs/guides/text-generation/json-mode
Reproducibleoutputs(seed机制介绍)
https://platform.openai.com/docs/guides/text-generation/reproducible-outputs
Function calling
https://platform.openai.com/docs/guides/function-calling/function-calling
  1. 3. 知识更新和外部数据源支持
GPT-4更新至2023年4月的知识库
可以利用外部文档或数据库增强知识储备(具体支持方式未明确说明)。
  1. 4. 支持多模态能力
GPT-4 Turbo API 支持图像识别(Vision)、图片生成(DALL-E 3)和文本转语音(TTS)技术,已正式上线。
开源高性能语音识别模型 Whisper v3将陆续集成至API,增强多语言处理能力。
  1. 5. 模型定制服务
支持16K Token的模型微调。
GPT-4 微调服务将向活跃用户开放申请。
提供面向企业的定制服务,满足特定行业需求,涵盖知识预训练、强化学习等。(OpenAI说很贵,但很值)
  1. 6. 请求速率限制增加
GPT-4 每分钟处理Token数量增加一倍,提升响应速度,支持更长文本处理和更高并发量。
开发者可在API账户中调整“请求速率限制”以应对不同需求
加入版权保护措施,对于企业版和API使用中可能出现的版权争议,OpenAI将提供法律支援。
每1000个Tokens的定价如下
输入部分为1美分(折合人民币约0.64元)
输出部分为3美分(折合人民币约1.92元)

新推出API:Assistants API(助手 API)

OpenAI 的 Agents 初步解决方案。开发者可以在自己的应用中创建智能助手。这些助手可以根据设定的指令,使用模型、工具和知识库来解答用户的问题。
支持多线程对话、集成检索功能、沙盒环境下的Python代码执行器和函数调用支持。
图形化配置界面,开发者能够后台查看所有用户的对话内容。
Assistants API
https://platform.openai.com/docs/assistants/overview/agents

我们能做什么?

如果你是开发者:
Review 自己项目,看看要不要将模型改为GPT-4 Turbo 来获得更高性能的效果
测试JSON输出模式和指定seed值来稳定输出
关注 GPT-4 Turbo 的知识更新和外部数据源支持后续支持,判断是否需要迁移
探索和集成多模态能力,比如图像识别、图片生成和文本转语音技术的产品落地
关注和利用GPT Store的推出,构建和部署定制的ChatGPT版本
如果你是普通用户,以下功能都需要 Plus 会员:
GPT-4 Turbo
使用GPTs为自己定制一个专属的ChatGPT
关注GPT Store的上线,了解如何获取和使用个性化的GPT应用。
如果对开发感兴趣,可以了解如何利用新API(如Assistants API)进行多线程对话和沙盒环境下的代码执行。
大会概要汇总脑图:
© 版权声明

相关文章

暂无评论

暂无评论...