ElasticDoc ChatGPT 流程利用 Python 界面接受用户问题并为 Elasticsearch 生成混合搜索请求，结合 BM25 和 kNN 搜索方法从 Elastic的官方文档中查找最相关的文档，这些文档现已在 Elasticsearch 中编制索引。但是，您不必使用混合搜索甚至向量搜索。Elasticsearch 可以灵活地使用最适合您需求的搜索模式，并为您的特定数据集提供最相关的结果。

在检索到最佳结果后，该程序会为 OpenAI 的 ChatCompletion API 制作Prompt，指示它仅使用所选文档中的信息来回答用户的问题。此提示是确保 ChatGPT 模型仅使用官方文档中的信息、这是减少ChatGPT产生幻觉的关键。

最后，该程序向用户展示 API 生成的响应和源文档的链接，提供无缝且用户友好的体验，集成了前端交互、Elasticsearch 查询和 OpenAI API 使用以实现高效的问答。

请注意，虽然为简单起见我们只返回得分最高的文档，但最佳做法是返回多个文档以为 ChatGPT 提供更多上下文。可以在不止一个文档页面中找到正确的答案，或者如果我们要为完整的正文文本生成向量，那么这些较大的文本正文可能需要分块并存储在多个 Elasticsearch 文档中。通过利用 Elasticsearch 与传统搜索方法协同搜索大量矢量字段的能力，您可以显着提高您的顶级文档召回率。

技术设置

技术要求相当低，但需要一些步骤才能将所有部分组合在一起。对于此示例，我们将配置Elasticsearch 网络爬虫以摄取 Elastic 文档并在摄取时为title生成向量。您可以跟随本文并复制此设置，或使用自己的数据。为了跟随本文，我们需要：

Elastic Cloud设置

本节中的步骤假设您当前没有在 Elastic Cloud 中运行的 Elasticsearch 集群。如果你已经有一个 Elastic Cloud

的集群，可以跳到下一部分。

注册

如果您还没有 Elasticsearch 集群，您可以通过Elastic Cloud注册免费试用。

创建部署

注册后，系统会提示您创建第一个部署。

回到云端

在继续之前，我们需要在 Cloud Console 中做几件事：

单击左上角的导航图标并选择管理此部署。

添加机器学习节点。

重置 Elasticsearch 部署用户和密码：

复制 Elasticsearch 部署云 ID。

Eland

接下来，我们需要将embedding模型加载到 Elasticsearch 中，用于为我们的博客title生成向量，以及为用户的搜索问题生成向量。我们将使用由 SentenceTransformers 训练并托管在 Hugging Face 模型中心上的all-distilroberta-v1模型。在此示例中，我们之所以选择这个模式，是因为它是在涵盖广泛主题的非常大的数据集上训练的，适合一般用途。但是，我们并非一定要选择这个模型，对于向量搜索用例，使用针对您的特定数据集进行微调的模型通常会提供最佳相关性。

为此，我们将使用Elastic 创建的Eland python 库。该库提供了广泛的数据科学功能，但我们将使用它作为桥梁，将模型从 Hugging Face 模型中心加载到 Elasticsearch，以便它可以部署在机器学习节点上以供推理使用。

Eland 可以作为 python 脚本的一部分运行，也可以在命令行上运行。该存储库还为希望走这条路的用户提供了一个 Docker 容器。今天我们将在一个小型 python notebook中运行 Eland ，它可以在网络浏览器中免费运行在谷歌的 Colab 中。

打开程序链接并单击顶部的“在 Colab 中打开”按钮以在 Colab 中启动笔记本。

将变量 hf_model_id 设置为模型名称。此模型已在示例代码中设置，但如果您想使用不同的模型可自行修改：

运行 cloud auth 部分，系统会提示您输入：

运行剩余的步骤：

Elasticsearch 索引和网络爬虫

接下来我们将创建一个新的 Elasticsearch 索引来存储我们的 Elastic 文档，将网络爬虫配置为自动抓取这些文档并为其编制索引，并使用摄取管道为文档title生成向量。

请注意，您可以在此步骤中使用您的专有数据，以创建适合您的领域的问答体验。

更新 dense_vector 字段的映射。（注意：对于 Elasticsearch 8.8+ 版本，此步骤应该是自动的。）

POST search-elastic-docs/_mapping{  "properties": {    "title-vector": {      "type": "dense_vector",      "dims": 768,      "index": true,      "similarity": "dot_product"    }  }}了解详情

{  "acknowledged": true}

配置网络爬虫以爬取 Elastic官方文档：

Elasticsearch 的网络爬虫现在将开始爬取文档站点，为title字段生成向量，并对文档和向量建立索引。

第一次爬网需要一些时间才能完成。同时，我们可以设置 OpenAI API 凭证和 Python 后端。

与 OpenAI API 连接

要向 ChatGPT 发送文档和问题，我们需要一个 OpenAI API 帐户和密钥。如果您还没有帐户，可以创建一个免费帐户，您将获得初始数量的免费积分。

创建帐户后，您需要创建一个 API 密钥：

Python 后端设置

克隆或下载python程序

Github 代码链接

2.设置身份验证和连接环境变量（例如，如果在命令行上运行：export openai_api=”123456abcdefg789”）

3.运行streamlit程序。有关 streamlit 的更多信息可以在其文档中找到。

聊天响应的示例

一切都已摄取且前端启动并运行后，您可以开始询问有关 Elastic 官方文档的问题。

询问“Show me the API call for an inference processor”现在会返回一个 API 调用的例子和有关配置设置的信息。

询问将新集成添加到 Elastic Agent 的步骤：

如前所述，允许 ChatGPT 仅根据训练过的数据回答问题的风险之一是它容易产生错误答案的幻觉。该项目的目标之一是为 ChatGPT 提供包含正确信息的数据，并让它制定答案。

那么当我们给 ChatGPT 一个不包含正确信息的文档时会发生什么？比方说，请它告诉您如何造船（Elastic 的官方文档不包含此内容）：

当 ChatGPT 无法在我们提供的文档中找到问题的答案时，它会退回到我们的提示指令，简单地告诉用户它无法回答问题。

Elasticsearch 的强大检索 + ChatGPT 的强大功能

在这个例子中，我们展示了如何将Elasticsearch强大的搜索检索功能与GPT模型生成的最新进展的AI响应集成，从而将用户体验提升到一个全新的水平。

这些组件可以根据您的具体要求进行定制，并进行调整以提供最佳结果。虽然我们使用了Elastic网络爬虫来摄取公共数据，但您并不局限于此方法。你随意尝试其他embedding模型，尤其是那些针对特定领域数据进行微调的模型。

您今天可以尝试本博客中讨论的所有功能！要构建您自己的 ElasticDocs GPT 体验，请注册一个Elastic 试用帐户，然后查看此示例代码库以开始使用。

如果您想了解更多Elasticsearch在搜索相关性上的新可能，可以尝试以下两个：

关键词：