Vercel 刚刚上线 AI SDK。 现在,您可以使用流式传输构建 AI 驱动的应用程序 – 从一个简单的命令开始:“npm i ai”

AI11个月前发布 残剑@葫芦娃AI
4.9K 0 0

Vercel 刚刚上线 AI SDK。

现在,您可以使用流式传输构建 AI 驱动的应用程序 – 从一个简单的命令开始:“npm i ai”

以下是一些示例 👇

Vercel 刚刚上线 AI SDK。  现在,您可以使用流式传输构建 AI 驱动的应用程序 - 从一个简单的命令开始:“npm i ai”

 

但首先,为什么要流式传输?

下面是 2 个示例 – 第一个使用阻塞 UI,而第二个使用流式处理 UI。

如您所见,流式处理 UI 能够比阻止 UI 更快地开始显示响应。

亲自尝试一下: https://vercel.fyi/Gb6nMzv

 

示例#1:聊天界面

使用“useChat”钩子,您只需几行代码即可构建一个简单而漂亮的聊天界面,并带有流式传输。

作为参考,我使用此钩子在 <10 分钟内构建了以下示例。

链接到“使用聊天”文档: https://vercel.fyi/PfxcThx

示例 #2:完成

使用“useCompletion”钩子,您可以快速设计提示,并使用它们通过 AI 和 GPT 的强大功能为您的产品增压。

◆ “使用完成”文档: https://vercel.fyi/Wcc6RWb
◆ 了解有关提示工程的更多信息: https://vercel.fyi/Ble1L5w

 

众所周知,流式传输很难实现 – 从处理背压和取消到管理生产中的碎片流

使用 AI SDK,所有这些问题都可以使用 SWR 驱动的钩子进行开箱即用的管理。

自己尝试一下↓

Vercel 刚刚上线 AI SDK。  现在,您可以使用流式传输构建 AI 驱动的应用程序 - 从一个简单的命令开始:“npm i ai”

@Vercel AI SDK是完全开源的,它支持所有您喜欢的LLM提供商:

◆ @OpenAI → https://vercel.fyi/I5IT0Gf
◆ @huggingface → https://vercel.fyi/lwMVnkg
◆ @AnthropicAI → https://vercel.fyi/QieE5Ta
◆ @LangchainAI → https://vercel.fyi/YLatObk

是时候构建 💪 了

Vercel 刚刚上线 AI SDK。  现在,您可以使用流式传输构建 AI 驱动的应用程序 - 从一个简单的命令开始:“npm i ai”

开源地址:https://github.com/vercel-labs/ai

© 版权声明

相关文章

暂无评论

暂无评论...