这里边的向量数据是直接 从向量数据库里边取的吗？这个向量数据长什么样？

Question

1. 这里边的向量数据是直接从向量数据库里边取的吗？
2. 这个向量数据长什么样？就是一个字符串？如果是，那个这个向量数据是否智能给Open ai来使用？文心一言、通义千问是否能用？
3. 是不是每次问题，都得吧这个向量数据同时喂给大模型一遍？

Answer 1

tomiezhang 2024-07-01 05:57:32

1. 向量数据一般不会读取出来，而是在向量数据库里使用，本质上它是一组表示空间位置的坐标。

2. 向量数据就是一个空间坐标，标注了空间里的位置。类似[x,y]这样。向量数据一般并不直接给LLM使用，而是在向量数据库中使用。

3. 并不是把向量数据喂给大模型，提问时的顺序为 用户问题->嵌入模型->向量数据->向量数据库中匹配->得到最相关语料 ->用户问题+最相关语料 -> LLM

   PS: 你可能不是很理解RAG的过程和作用，可以看看这方面的资料。

• 提问者 sdd3991 #1

  关于问题3，那这个嵌入模型就十分关键了。大模型始终接收的内容是：问题，和相关回答的提示内容。咱们这节课里边不涉及嵌入模型如何匹配向量数据，那这个嵌入模型会根据坐标，去向量数据库中匹配相应的内容吗？

• tomiezhang 回复 提问者 sdd3991 #2

  嵌入模型的主要作用是将文本转换为向量数据，向量数据匹配是由向量数据库来实现的，嵌入模型只负责转换。