LlamaIndex 架构与组件
所属分类 AI
浏览量 27
建议” 拆分为 “加载财报→提取关键指标→对比行业数据→生成建议”);
工具调用(通过 Tools 调用计算器、数据库查询、网页搜索等外部能力);
记忆机制(短期记忆存储中间结果,长期记忆关联历史对话) ;
(2)工具(Tools)
作用:扩展 LLM 的能力,让其能与外部系统交互(如查询实时数据、执行计算) ;
常见工具:
检索工具(RetrieverTool,调用索引检索数据);
函数调用工具(FunctionTool,调用自定义函数,如数据清洗函数);
外部 API 工具(APITool,调用天气 API、股票 API 等) ;
(3)评估器(Evaluators)
作用:评估系统性能(如回答准确性、检索相关性),辅助优化 ;
评估维度:
检索相关性(检索到的节点与查询是否相关);
回答准确性(回答是否符合事实,与参考答案的一致性);
冗余度(回答是否包含无关信息) ;
四、组件协作流程
以 “文档问答” 为例
数据加载:SimpleDirectoryReader 加载本地 PDF 文档,生成 Document 对象;
处理:SentenceSplitter 将 Document 拆分为 Node(含文本和页码元数据);
索引构建:
嵌入模型(如 OpenAI Embeddings)将 Node 转换为向量;
VectorStoreIndex 将向量和 Node 存储到 Pinecone(向量库);
查询:
用户输入查询 “文档中提到的核心技术有哪些?”;
Vector Retriever 从 VectorStoreIndex 中检索 top 5 相关 Node;
Response Synthesizer 用 Compact 策略将节点内容输入 LLM(如 GPT-4),生成回答;
输出:查询引擎返回最终回答 ;
上一篇
下一篇
AI RAG开发 要点
AI agent开发要点
python3 面向对象示例代码
关键词匹配与语义搜索:技术原理与应用场景解析
快速学习 LangChain 提问示例
企业智能问答系统技术栈