❝

LangChain 是一个用于构建基于语言模型的应用程序的框架。它旨在简化与大型语言模型（如 ChatGPT、LLaMA 等）的交互，并提供一系列工具和组件来帮助开发者快速构建复杂的应用。LangChain 的设计目标是提高开发效率，使得开发者可以更专注于应用逻辑，而不是底层的技术细节。

❞

• langchain-core：基础抽象和 `表达式语言。
• langchain-community：第三方集成。
• 合作伙伴包（例如langchain-openai、langchain-anthropic等）：某些集成已进一步拆分为自己的轻量级包，这些包仅依赖于langchain-core
• langchain：构成应用认知架构的链、代理和检索策略。
• LangGraph：通过将步骤建模为图中的边和节点，构建强大且有状态的多参与者 LLM 应用。与 LangChain无缝集成，但也可以单独使用。
• LangServe：将LangChain链部署为 REST API。
• LangSmith：一个开发者平台，可让您调试、测试、评估和监控 LLM 应用。

提示模版

❝

LangChain 的提示词模板（Prompt Template）是用于构建和管理提示词的工具，能够提高与大型语言模型交互的效率。首先需要安装langchain_coze

❞

pip install langchain_coze

PromptTemplate

基本的字符串提示模板，用于生成简单的文本提示。它允许开发者定义一个基本的文本结构，并用输入变量进行格式化。

# 从 langchain_core.prompts 模块导入 PromptTemplate 类
from langchain_core.prompts import PromptTemplate

# 创建一个基本的提示模板
# PromptTemplate 是一个类，用于定义和格式化提示模板
# input_variables 是一个列表，包含模板中的变量名
# template 是一个字符串，定义了提示的格式，其中包含占位符 {name} 和 {age}
template = PromptTemplate(
    input_variables=["name", "age"],  # 定义模板中的变量名
    template="My name is {name} and I am {age} years old."  # 定义提示的格式
)

# 格式化提示
# 使用 format 方法将变量值填入模板中
# name 变量的值是 "Alice"，age 变量的值是 30
prompt = template.format(name="Alice", age=30)

# 打印格式化后的提示
# 输出: My name is Alice and I am 30 years old.
print(prompt)

ChatPromptTemplate

用于聊天模型的提示模板，支持多角色消息的组合和管理。适用于需要模拟对话的场景。

# 从 langchain_core.prompts 模块导入 ChatPromptTemplate 类
from langchain_core.prompts import ChatPromptTemplate

# 创建聊天提示模板
# ChatPromptTemplate 是一个类，用于定义和格式化聊天提示模板
# messages 是一个列表，包含多个消息模板
# 每个消息模板都是一个元组，包含消息的角色和内容
template = ChatPromptTemplate([
    ("system", "You are a helpful AI bot. Your name is {name}."),  # 系统消息，包含占位符 {name}
    ("human", "Hello, how are you doing?"),  # 用户消息
    ("ai", "I'm doing well, thanks!"),  # AI 消息
    ("human", "{user_input}"),  # 用户消息，包含占位符 {user_input}
])

# 调用模板并传入参数
# 使用 invoke 方法将变量值填入模板中
# name 变量的值是 "Bob"，user_input 变量的值是 "What is your name?"
prompt_value = template.invoke(
    {
        "name": "Bob",
        "user_input": "What is your name?"
    }
)

# 输出结果
# 打印格式化后的消息
print(prompt_value)

FewShotPromptTemplate

包含少量示例的提示模板，帮助模型更好地理解任务。适用于需要示例来引导模型的场景。

# 从 langchain_core.prompts 模块导入 FewShotPromptTemplate 和 PromptTemplate 类
from langchain_core.prompts import FewShotPromptTemplate, PromptTemplate

# 定义示例提示
# PromptTemplate 是一个类，用于定义和格式化提示模板
# template 参数是一个字符串，定义了提示的格式，其中包含占位符 {animal} 和 {characteristic}
# input_variables 参数是一个列表，包含模板中的变量名
example_prompt = PromptTemplate(
    template="The {animal} is known for its {characteristic}.",
    input_variables=["animal", "characteristic"]
)

# 创建 FewShotPromptTemplate
# FewShotPromptTemplate 是一个类，用于定义和格式化少样本提示模板
# example_prompt 参数是一个 PromptTemplate 对象，定义了示例提示的格式
# examples 参数是一个列表，包含多个示例，每个示例是一个字典，包含变量名和值
# prefix 参数是一个字符串，定义了提示的前缀
# suffix 参数是一个字符串，定义了提示的后缀
# example_separator 参数是一个字符串，定义了示例之间的分隔符
few_shot_template = FewShotPromptTemplate(
    example_prompt=example_prompt,
    examples=[
        {"animal": "dog", "characteristic": "loyalty"},
        {"animal": "cat", "characteristic": "independence"},
        {"animal": "elephant", "characteristic": "intelligence"},
    ],
    prefix="Here are some facts about animals:",
    suffix="Based on the examples above, what can you tell me about a rabbit?",
    example_separator="nn"
)

# 使用格式化方法生成提示
# 使用 format 方法将变量值填入模板中
# animal 变量的值是 "rabbit"，characteristic 变量的值是 "playfulness"
formatted_prompt = few_shot_template.format(animal="rabbit", characteristic="playfulness")

# 打印格式化后的提示
print(formatted_prompt)

调用模型

❝

Langchain支持的国内模型包括月之暗面科技的moonshot系列、百川智能的baichuan系列、阿里云的通义千问、智谱AI的glm-4以及讯飞星火3.0等。首先要下载langchain_community。

❞

pip install langchain_community

智谱

目前glm-4-flash是免费的，可以使用glm-4-flash进行学习。

# 导入必要的模块和类
from langchain_community.chat_models import ChatZhipuAI
from langchain_core.prompts import PromptTemplate
import os

# 获取智谱AI的API密钥
# 从环境变量中获取智谱AI的API密钥
api_key = os.environ.get("ZHIPUAI_API_KEY")
# print(api_key)  # 可以打印API密钥进行调试，但在生产环境中不建议打印敏感信息

# 创建ChatZhipuAI模型
# 使用智谱AI的GLM模型，并传入API密钥、模型名称、温度和最大令牌数
model = ChatZhipuAI(api_key=api_key, model="glm-4-flash", temperature=0.7, max_tokens=1024)

# 创建PromptTemplate模板
# 定义提示模板，包含占位符 {text}
template = "请用英语翻译以下句子：{text}"
# 创建PromptTemplate对象，传入模板和输入变量
prompt_template = PromptTemplate(template=template, input_variables=["text"])

# 格式化提示模板
# 使用format方法将变量值填入模板中
my = prompt_template.format(text="你好，世界！")

# 调用模型生成响应
# 使用invoke方法将格式化后的提示传递给模型，并获取响应
response = model.invoke(my)

# 打印模型的响应内容
print(response.content)

然后ChatZhipu中添加streaming=True参数启用流式传输功能，然后输出写一下代码

# 流式传输响应
for response in model.stream(my):
    print(response.content)

其他模型AI大模型列表