Cohere 发布 Cohere Toolkit AI 工具包, 加速生成式 AI 应用程序开发

今天，Cohere Toolkit公开发布，这是一个为开发者设计的开源代码库，旨在帮助他们更快地构建人工智能应用。这个工具箱包含了一系列已经可以投入生产的应用程序，可以在不同的云服务提供商中部署，如亚马逊云服务(AWS)、微软Azure以及Cohere平台，未来还将支持更多的平台。这些应用程序可以在用户的特定环境中部署，确保满足组织的安全性标准，并且可以连接到用户自己的数据源。

工具箱中首先包含的应用程序是一个知识助手，类似于在Cohere平台上展示的演示。这个知识助手连接到企业数据并以特定团队为定制对象，通过提供快速的信息访问、自动化任务和支持团队内的无缝协作，可以显著提高生产力。构建于Cohere Toolkit的知识助手具有以下特点：

• 对话式：Cohere的模型默认驱动此应用程序，这些模型经过训练，可以理解对话背后的意图，记住对话历史，并通过RAG（Retrieval-Augmented Generation）技术完成企业用例。
• 依据性：助手可以为来自用户自定义数据源的回答添加细粒度的相关引用。
• 可定制性：开发者可以使用Cohere 100多个预建连接器来增加自定义数据源，以增强助手的回答，或者自定义工具，使知识助手可以采取行动。

Cohere Toolkit支持在微软Azure等平台上部署，并且提供了详细的部署指南。开发者只需要将代码指向模型所在的地点，就可以实现一个可以在用户环境中部署的可扩展应用程序。同时，用户还可以定制应用程序，构建并贡献新的应用程序到仓库，或者仅将它们重新设计以反映用户独特的品牌或声音。

构建人工智能应用的一个核心挑战是，开发者需要将AI模型、提示模板、检索管道以及用户界面与相关的后端代码结合起来，所有这些都必须在安全的环境下完成。这个开发过程通常需要数月时间，因为开发者必须尝试这些组件如何协同工作。

Cohere Toolkit提供了源代码，可以帮助开发者加快开发速度，并在几天内快速建立起应用程序。工具箱由即插即用的组件和源代码组成，包括：

• 界面：这些是带有后端集成代码的用户界面组件。我们首先开源基于知识助手的界面，支持多轮对话、细粒度引用、文档上传和对话历史记录。
• 模型：该模块允许开发者与Cohere专有的Command R和R+模型互动，这些模型可以在托管AI模型的任何平台上以支持应用程序。
• 检索：这套组件可用于构建构成有效RAG管道支柱的先进检索系统，完全在用户自己环境的安全范围内。它们包括：
  • 100个免费使用的连接器，带OAuth认证，主要针对企业数据源。
  • 能力整合流行库如LangChain和LlamaIndex的工具。
  • 使用Cohere的Embed模型，它可能托管在云端AI服务中，以及利用向量数据库如OpenSearch、Pinecone、Weaviate等。
  • 使用Cohere的Rerank模型，通过一行代码改善现有搜索系统的检索。