一、大模型开发的四个常用应用场景1纯promptprompt是操作大模型的唯一接口 问一句答一句。2agent function callagent大模型主动提要求。function call需要对接外部系统时AI要求执行某个函数。3RAGRAG需要补充领域知识时使用Embeddings把文字转换为更易于相似度计算的编码向量。向量数据库向量数据存储。向量搜索根据输入向量搜索相似向量。4Fine-tunning 微调需要语料 成本高二、模型的创建和调用1LangChain为一些模型厂商提供了专门的chat初始化类如ChatOpenAIChatDeepSeek等。可以直接导入并进行实例化。以deepSeek举例deepseek官方帮助文档首次调用 API | DeepSeek API Docs1. 安装必要依赖pip3 install langchain-openai pip3 install langchain-deepseek pip3 install python-dotenv # 环境管理的包 可选2. 编写配置文件在根目录下创建.env文件写入内容DEEPSEEK_API_KEYDEEPSEEK_BASE_URLhttps://api.deepseek.com3. 编写调用逻辑import os from langchain_deepseek import ChatDeepSeek from dotenv import load_dotenv load_dotenv(overrideTrue) DEEPSEEK_API_KEY os.getenv(DEEPSEEK_API_KEY) DEEPSEEK_BASE_URL os.getenv(DEEPSEEK_BASE_URL) llm_deepseek ChatDeepSeek( modeldeepseek-v4-flash, api_keyDEEPSEEK_API_KEY, base_urlDEEPSEEK_BASE_URL, ) response llm_deepseek.invoke(请用一句话介绍你自己) print(response)2也可以使用LangChain提供的ChatOpenAI接口直接调用import os from langchain_openai import ChatOpenAI from dotenv import load_dotenv load_dotenv(overrideTrue) DEEPSEEK_API_KEY os.getenv(DEEPSEEK_API) DEEPSEEK_BASE_URL os.getenv(DEEPSEEK_URL) llm_deepseek ChatOpenAI( modelmodeldeepseek-v4-flash, api_keyDEEPSEEK_API_KEY, base_urlDEEPSEEK_BASE_URL, ) response llm_deepseek.invoke(请用一句话介绍你自己) print(response)# 当然这里也可以使用原生的openAI模块调用3中转平台调用国内无法直接调用国外的闭源平台模型可以通过一些中转平台进行调用。1. OpenRouter 调用import os from langchain_openrouter import ChatOpenRouter from dotenv import load_dotenv load_dotenv(overrideTrue) DEEPSEEK_API_KEY os.getenv(OpenRouter_API) DEEPSEEK_BASE_URL os.getenv(OpenRouter_URL) # https://openrouter.ai/api/v1 llm_deepseek ChatOpenRouter( modeldeepseek-v4-flash, api_keyDEEPSEEK_API_KEY, base_urlDEEPSEEK_BASE_URL, ) response llm_deepseek.invoke(请用一句话介绍你自己) print(response)2. CloseAI 调用同样的中转平台 贵4) 模型初始化的兼容方案 LangChain 1.X 后支持会根据模型名称自动选择初始化实例。import os from langchain.chat_models import init_chat_model from dotenv import load_dotenv load_dotenv(overrideTrue) DEEPSEEK_API_KEY os.getenv(DEEPSEEK_API_KEY) DEEPSEEK_BASE_URL os.getenv(DEEPSEEK_BASE_URL) llm_deepseek init_chat_model( modedeepseek-v4-flash, api_keyDEEPSEEK_API_KEY, base_urlDEEPSEEK_BASE_URL, model_providerdeepseek, ) response llm_deepseek.invoke(请用一句话介绍你自己) print(response)* 模型初始化的常用参数参数类型说明默认值modelstr必需 使用特定供应商的模型名称无model_providerstr供应商名称无api_keystrAPI key值。不写会尝试从环境变量取默认值Nonebase_urlstrAPI请求地址Nonetemperaturefloat温度 控制模型输出随机性范围 0.0-2.0 温度越高越随机0.7max_tokensint限制输出的最大tokenNonetimeoutfloat超时时间秒Nonemax_retriesint最大重试次数6
一、大模型开发的四个常用应用场景1纯promptprompt是操作大模型的唯一接口 问一句答一句。2agent function callagent大模型主动提要求。function call需要对接外部系统时AI要求执行某个函数。3RAGRAG需要补充领域知识时使用Embeddings把文字转换为更易于相似度计算的编码向量。向量数据库向量数据存储。向量搜索根据输入向量搜索相似向量。4Fine-tunning 微调需要语料 成本高二、模型的创建和调用1LangChain为一些模型厂商提供了专门的chat初始化类如ChatOpenAIChatDeepSeek等。可以直接导入并进行实例化。以deepSeek举例deepseek官方帮助文档首次调用 API | DeepSeek API Docs1. 安装必要依赖pip3 install langchain-openai pip3 install langchain-deepseek pip3 install python-dotenv # 环境管理的包 可选2. 编写配置文件在根目录下创建.env文件写入内容DEEPSEEK_API_KEYDEEPSEEK_BASE_URLhttps://api.deepseek.com3. 编写调用逻辑import os from langchain_deepseek import ChatDeepSeek from dotenv import load_dotenv load_dotenv(overrideTrue) DEEPSEEK_API_KEY os.getenv(DEEPSEEK_API_KEY) DEEPSEEK_BASE_URL os.getenv(DEEPSEEK_BASE_URL) llm_deepseek ChatDeepSeek( modeldeepseek-v4-flash, api_keyDEEPSEEK_API_KEY, base_urlDEEPSEEK_BASE_URL, ) response llm_deepseek.invoke(请用一句话介绍你自己) print(response)2也可以使用LangChain提供的ChatOpenAI接口直接调用import os from langchain_openai import ChatOpenAI from dotenv import load_dotenv load_dotenv(overrideTrue) DEEPSEEK_API_KEY os.getenv(DEEPSEEK_API) DEEPSEEK_BASE_URL os.getenv(DEEPSEEK_URL) llm_deepseek ChatOpenAI( modelmodeldeepseek-v4-flash, api_keyDEEPSEEK_API_KEY, base_urlDEEPSEEK_BASE_URL, ) response llm_deepseek.invoke(请用一句话介绍你自己) print(response)# 当然这里也可以使用原生的openAI模块调用3中转平台调用国内无法直接调用国外的闭源平台模型可以通过一些中转平台进行调用。1. OpenRouter 调用import os from langchain_openrouter import ChatOpenRouter from dotenv import load_dotenv load_dotenv(overrideTrue) DEEPSEEK_API_KEY os.getenv(OpenRouter_API) DEEPSEEK_BASE_URL os.getenv(OpenRouter_URL) # https://openrouter.ai/api/v1 llm_deepseek ChatOpenRouter( modeldeepseek-v4-flash, api_keyDEEPSEEK_API_KEY, base_urlDEEPSEEK_BASE_URL, ) response llm_deepseek.invoke(请用一句话介绍你自己) print(response)2. CloseAI 调用同样的中转平台 贵4) 模型初始化的兼容方案 LangChain 1.X 后支持会根据模型名称自动选择初始化实例。import os from langchain.chat_models import init_chat_model from dotenv import load_dotenv load_dotenv(overrideTrue) DEEPSEEK_API_KEY os.getenv(DEEPSEEK_API_KEY) DEEPSEEK_BASE_URL os.getenv(DEEPSEEK_BASE_URL) llm_deepseek init_chat_model( modedeepseek-v4-flash, api_keyDEEPSEEK_API_KEY, base_urlDEEPSEEK_BASE_URL, model_providerdeepseek, ) response llm_deepseek.invoke(请用一句话介绍你自己) print(response)* 模型初始化的常用参数参数类型说明默认值modelstr必需 使用特定供应商的模型名称无model_providerstr供应商名称无api_keystrAPI key值。不写会尝试从环境变量取默认值Nonebase_urlstrAPI请求地址Nonetemperaturefloat温度 控制模型输出随机性范围 0.0-2.0 温度越高越随机0.7max_tokensint限制输出的最大tokenNonetimeoutfloat超时时间秒Nonemax_retriesint最大重试次数6
