LlamaIndex 安装与配置指南

干掉那些死板的套路咱直接用大白话把 LlamaIndex 的环境搭起来。我用 conda 虚拟环境用 DeepSeek模型老规矩先看下结果1. 先把 Python 环境准备好Python 版本3.9 以上就行我个人用 3.13pip 顺手升个级省得装包时报奇怪的错pip install --upgrade pip d:\ProgramData\miniconda3\python.exe -m pip install --upgrade pip虚拟环境我用conda用 conda 建一个干净的环境之后随便折腾也不会搞乱其他项目conda create -n llamaindex-env python3.13 conda activate llamaindex-env如果你某天临时用 venv 也完全 OKpython -m venv llamaindex-env source llamaindex-env/bin/activate # Linux/macOS llamaindex-env\Scripts\activate # Windows2. 安装核心包直接 pip 一把梭pip install llama-index这是一个入门包捆绑包含llama-index-corellama-index-llms-openaillama-index-embeddings-openaillama-index-program-openaillama-index-question-gen-openaillama-index-agent-openaillama-index-readers-filellama-index-multi-modal-llms-openai这个包里带了最基础的东西能读文档、建索引、查问题。但它没带具体的大模型和嵌入模型那些要另外装。3. 装上你打算用的模型集成你要用哪个大模型就去装对应的「小插件」。最常用的还是 OpenAI先看它pip install llama-index-llms-openai llama-index-embeddings-openai其他常见的组合我列几个后面都会用到想用本地模型Ollamapip install llama-index-llms-ollama llama-index-embeddings-ollamaAnthropic 的 Claudepip install llama-index-llms-anthropicHuggingFace 的嵌入模型pip install llama-index-embeddings-huggingfaceDeepSeek下面会细说pip install llama-index-llms-deepseek完整的支持列表可以随时去官方集成页面翻。4. 配置大模型和嵌入模型想让 LlamaIndex 知道用哪个模型你得在代码里告诉它。4.1 用 OpenAI如果你只装了核心包它会默认去找gpt-3.5-turbo默认内嵌模型text-embedding-ada-002前提是设置好 API keyexport OPENAI_API_KEYsk-... # Linux/macOS set OPENAI_API_KEYsk-... # Windows CMD $env:OPENAI_API_KEYsk-... # Windows PowerShell或者在 Python 脚本里临时写上【不推荐】别把 key 传到 git 上import os os.environ[OPENAI_API_KEY] sk-...4.2 换一个 OpenAI 模型想用 gpt-4o 或者调一下温度直接在全局设置里改from llama_index.llms.openai import OpenAI from llama_index.embeddings.openai import OpenAIEmbedding from llama_index.core import Settings Settings.llm OpenAI(modelgpt-4o, temperature0.2) Settings.embed_model OpenAIEmbedding(modeltext-embedding-3-small)这样后面建索引、提问就全用这个配置了。4.3 换成本地模型Ollama如果你已经把 Ollama 跑起来了并且拉取过模型比如 llama3ollama pull llama3那代码里就这么写from llama_index.llms.ollama import Ollama from llama_index.embeddings.ollama import OllamaEmbedding from llama_index.core import Settings Settings.llm Ollama(modelllama3, request_timeout120.0) Settings.embed_model OllamaEmbedding(model_namellama3)这样所有计算都在你本机跑数据也不出你的电脑。4.4 以 DeepSeek 为例很多朋友在问 DeepSeek 怎么接其实很简单。你先装上集成包# 安装 DeepSeek 大模型集成包 pip install llama-index-llms-deepseek # 安装 ollama 的 内嵌模型集成包 pip install llama-index-embeddings-ollama然后去 DeepSeek 官网申请一个 API key。拿到 key 之后用环境变量的方式会更安全# Linux export DEEPSEEK_API_KEY你的key # windows set DEEPSEEK_API_KEY你的key代码里这么配import os from llama_index.llms.deepseek import DeepSeek from llama_index.embeddings.ollama import OllamaEmbedding from llama_index.core import Settings os.environ[DEEPSEEK_API_KEY] 你的key # 或者在环境变量里设好 Settings.llm DeepSeek(modeldeepseek-chat, temperature0.7) # 嵌入模型 DeepSeek 暂时还没有用 Ollama 的 Settings.embed_model OllamaEmbedding(model_nameqwen3-embedding:0.6b)现在索引问答就用 DeepSeek 来生成了费用也比 GPT 便宜不少。5. 跑个小 Demo 验证一下别纠结先搞个极简的测试。你在当前目录下建个data文件夹随便扔两个 txt 文件进去然后跑这段from llama_index.core import VectorStoreIndex, SimpleDirectoryReader # 加载 data 文件夹下的所有文档 documents SimpleDirectoryReader(data).load_data() # 建索引 index VectorStoreIndex.from_documents(documents) # 问个问题 query_engine index.as_query_engine() response query_engine.query(这些文档主要讲了什么) print(response)如果它能正常给你回一段人话恭喜LlamaIndex 环境就妥了。6. 从源码安装偶尔想用最新的 dev 版可以这么装git clone https://github.com/run-llama/llama_index.git cd llama_index pip install -e .这样你就有了一个干干净净、想换啥模型就换啥模型的 LlamaIndex 环境。接下来不管是做文档问答、多文档分析还是抽取结构化数据都可以在这个基础上开搞了。