Vercel 刚刚上线 AI SDK。 现在，您可以使用流式传输构建 AI 驱动的应用程序 – 从一个简单的命令开始：“npm i ai”

Vercel 刚刚上线 AI SDK。

现在，您可以使用流式传输构建 AI 驱动的应用程序 – 从一个简单的命令开始：“npm i ai”

以下是一些示例 ?

但首先，为什么要流式传输？

下面是 2 个示例 – 第一个使用阻塞 UI，而第二个使用流式处理 UI。

如您所见，流式处理 UI 能够比阻止 UI 更快地开始显示响应。

亲自尝试一下： https://vercel.fyi/Gb6nMzv

示例#1：聊天界面

使用“useChat”钩子，您只需几行代码即可构建一个简单而漂亮的聊天界面，并带有流式传输。

作为参考，我使用此钩子在 <10 分钟内构建了以下示例。

链接到“使用聊天”文档： https://vercel.fyi/PfxcThx

示例 #2：完成

使用“useCompletion”钩子，您可以快速设计提示，并使用它们通过 AI 和 GPT 的强大功能为您的产品增压。

◆ “使用完成”文档： https://vercel.fyi/Wcc6RWb
◆ 了解有关提示工程的更多信息： https://vercel.fyi/Ble1L5w

众所周知，流式传输很难实现 – 从处理背压和取消到管理生产中的碎片流

使用 AI SDK，所有这些问题都可以使用 SWR 驱动的钩子进行开箱即用的管理。

自己尝试一下↓

@Vercel AI SDK是完全开源的，它支持所有您喜欢的LLM提供商：

◆ @OpenAI → https://vercel.fyi/I5IT0Gf
◆ @huggingface → https://vercel.fyi/lwMVnkg
◆ @AnthropicAI → https://vercel.fyi/QieE5Ta
◆ @LangchainAI → https://vercel.fyi/YLatObk

是时候构建 ? 了

开源地址：https://github.com/vercel-labs/ai