2.LangChain零基础速通-Model I_O大模型接口

文章目录

• Model I/O大模型接口
• • 简介
  • Model I/O三件套
  • Model I/O调用模型
  • Model I/O分类
  • Model I/O模型参数
  • Model I/O模型返回
  • 接入大模型
  • • 接入OpenAI
    • 接入DeepSeek
• Ollama本地大模型部署
• • 简介
  • 安装部署与常用命令
  • LangChain整合Ollama部署本地大模型

Model I/O大模型接口

简介

官网：

Models – Docs by LangChain

Chat model integrations – Docs by LangChain

是什么：

LangChain的Model I/O模块是与大模型交互的核心组件，主要用于标准化各个大模型的输入与输出，包含输入提示（Format）、调用模型（Predict）和输出解析（Parse），分别对应着Prompt Template、Model、Output Parser

Model I/O三件套

• Format输入提示

即Prompts Template提示词模板，通过模板管理大模型的输入。将原始数据格式化成模型可以处理的形式，插入到一个模板问题中，然后送入模型进行处理

• Predict调用模型

即Models，使用通用接口调用不同的大语言模型。接受被送进来的问题，然后基于这个问题进行预测或生成回答。

• Parse输出解析

即Output Parser部分，用来从模型的推理中提取信息，并按照预先设定好的模版来规范化输出。比如，格式化成一个结构化的JSON对象

一句话：简单来说，就是输入、处理、输出这三个步骤

Model I/O调用模型

指一个AI模型，应用的核心就是它所依赖的大语言模型，LangChain作为一个工具，不提供任何LLMs，而是依赖第三方集成各种大模型，比如：将OpenAI、Anthropic、DeepSeek等平台的模型无缝接入到你的应用。

LangcChain模型接口官方文档：

language_models | langchain_core

Model I/O分类

Model I/O模型参数

详见：

Models – Docs by LangChain

在构建聊天模型时init_chat_model，有一些标准化参数，如下：

以上的标准参数，也只是适用于部分的大语言模型，有些参数在特定模型中可能是无效的，这些标准化参数仅对LangChain官方提供集成包的模型(如langchain-openai、langchain-anthropic)生效，在langchain-community包中的第三方模型，则不需要遵守这些标准化参数的规则。

Model I/O模型返回

Message组件，调用模型后返回了一条AI信息：AIMessage，所有的消息都有type、content、response_meta等通用属性

接入大模型

接入OpenAI

OpenAI、ChatOpenAI两者定位、功能场景差异显著，无绝对优劣，根据业务需求选择。

本质区别：

openai.OpenAI是官方原生底层工具，所属PythonSDK生态，定位是地层、纯粹的API调用工具，紧负责封装OpenAI的API接口，提供最直接的模型调用能力，无额外扩展功能。

langchain_openai.ChatOpenAI是LangChain生态的高层适配器，是对OpenAI SDK的二次封装，定位是LangChain框架的模型适配器，使其能与LangChain的其他组件（提示词模版、链、代理、记忆等）无缝协作。

选型核心:

• 简单调用用openai.OpenAI(轻、快、纯)
• 复杂工作流用langchain_openai.ChatOpenAl(强、全、易扩展)

openai.OpenAI

from openai import OpenAI

from config import OPENAI_API_KEY

# 原生OpenAI模型，不常用
llm = OpenAI(
api_key=OPENAI_API_KEY,
base_url="https://api.deepseek.com"
)

response = llm.chat.completions.create( # type: ignore
model="deepseek-chat",
messages=[
{"role": "system", "content": "你是一个Python专家"},
{"role": "user", "content": "你是谁"}
],
stream=False
)

print(response.choices[0].message.content)

langchain_openai.ChatOpenAI

from langchain_openai import ChatOpenAI

from config import OPENAI_API_KEY

# # ChatOpenAI模型
llm = ChatOpenAI(
model="deepseek-chat",
api_key=OPENAI_API_KEY,
base_url="https://api.deepseek.com"
)

messages = [
{"role": "system", "content": "你是一个Python专家"},
{"role": "user", "content": "那你是谁"}
]

# 调用语言模型
response = llm.invoke(messages)
print("response.content", response.content)

init_chat_model:

from langchain.chat_models import init_chat_model

from config import OPENAI_API_KEY

# init_chat_model创建一个语言模型
llm = init_chat_model(
model="deepseek-chat",
model_provider="deepseek",
api_key=OPENAI_API_KEY,
base_url="https://api.deepseek.com"
)

# 调用语言模型
response = llm.invoke("你是谁")
print("response.content", response.content)

接入DeepSeek

pip install langchain_deepseek

from langchain_deepseek import ChatDeepSeek

from config import OPENAI_API_KEY

# 纯纯的deepseek接入
llm = ChatDeepSeek(
model="deepseek-chat",
api_key=OPENAI_API_KEY,
base_url="https://api.deepseek.com",
temperature=0.7,
max_tokens=None,
timeout=None,
max_retries=3,
)

print(llm.invoke("那你是谁"))

Ollama本地大模型部署

简介

Ollama 是一个开源框架，专为在本地（如你的电脑上）轻松部署和运行大型语言模型（LLM）而设计。它极大地简化了安装和配置流程，被誉为“大模型界的 Docker”。

官网：

Quickstart – Ollama

说明: Ollama的运行会受到所使用模型大小的影响;

安装部署与常用命令

安装ollama：brew install –cask ollama-app

问题：ollama pull 证书问题，拉不下来

解决方案：配置国内镜像

touch .ollama/config.json
{
"registry": {
"mirrors": {
"registry.ollama.ai": "https://registry.ollama.ai" // 阿里云
}
}
}

运行情况：

LangChain整合Ollama部署本地大模型

ollama==0.6.2
langchain_ollama==1.1.0

from langchain_ollama import ChatOllama

# 本地Ollama接入
llm = ChatOllama(
base_url="http://127.0.0.1:11434",
model="deepseek-r1:7b",
reasoning=False
)
print(llm.invoke("简介python"))