Grafana 发布 Go LLM SDK,支持流式处理和工具调用
Grafana 发布了一款开源的 Go LLM SDK,支持流式处理和工具调用,并附带一个 React 前端库。该 SDK 旨在通过为多个 AI 后端提供统一接口,简化构建 AI 驱动的应用程序。
Grafana 发布了一款开源的 Go LLM SDK,支持流式处理和工具调用,并附带一个 React 前端库。该 SDK 旨在通过为多个 AI 后端提供统一接口,简化构建 AI 驱动的应用程序。
SynthePulse Insight · AI 深度解读
版本 1 · 1 个来源
Grafana 开源了 Go 语言 AI SDK,提供统一的流式文本生成、工具调用和多步代理接口,并原生兼容 Vercel AI SDK 的 React 前端 hooks,使 Go 后端能直接向 React 客户端推送 Server-Sent Events。
Grafana AI SDK 为 Go 应用提供单一 API 来调用语言模型、流式响应、执行工具、生成结构化输出以及运行多步代理。其核心设计遵循 Vercel AI SDK 的接口模式,并保持线缆兼容——Go 后端可以通过 Server-Sent Events (SSE) 直接向 React 前端 hooks(如 useChat)推送数据,无需协议适配层。
SDK 提供了 StreamText 和 GenerateText 两个核心函数,分别用于流式获取响应或等待完整结果,并支持重试和多步工具执行。此外,还包含 WriteUIMessageStream 函数,用于将消息流写入 HTTP 响应,与 React 前端通信。
SDK 内置了多个模型提供商的支持,包括 Anthropic、Amazon Bedrock、OpenAI 以及 OpenAI 兼容 API,同时提供 Grafana 内部服务的托管端点。开发者只需安装核心模块和对应提供商包即可快速集成。
在生产环境方面,SDK 提供了超时配置、回退机制、日志记录、Prometheus 指标收集以及 Agent 可观测性等控制能力。工具调用支持从 Go 普通函数中调用模型,并可对关键操作设置审批流程。
该项目采用 Apache 2.0 许可证,设计上参考了同样采用 Apache 2.0 的 Vercel AI SDK,并在 NOTICE 文件中记录了归属信息。贡献者需遵循两项特殊约定:与上游 Vercel AI SDK 保持接口一致性,以及采用 OpenSpec 进行规范驱动开发。
本文信息来源于 Grafana 在 GitHub 上公开的仓库 README 和项目文档,属于一手官方来源。所有功能描述均来自项目自述,未引入外部验证。
Grafana AI SDK 为 Go 开发者提供了一条与 React 前端无缝集成的 AI 后端路径,降低了全栈 AI 应用开发中前后端协议适配的复杂度。
主报道
主报道来源