黄石网站制作公司,网站建设业务流程图,网站用oracle做数据库,百度站长查询工具LangChain 的核心构建模块 LLMChain LangChain 应用程序的核心构建模块语言模型 - LLMs提示模板 - Prompt templates输出解析器 - Output Parsers LLMChain 组合 LangChain 应用程序的核心构建模块
LangChain 应用程序的核心构建模块 LLMChain 由三部分组成#xff1a;
语言… LangChain 的核心构建模块 LLMChain LangChain 应用程序的核心构建模块语言模型 - LLMs提示模板 - Prompt templates输出解析器 - Output Parsers LLMChain 组合 LangChain 应用程序的核心构建模块
LangChain 应用程序的核心构建模块 LLMChain 由三部分组成
语言模型 - LLMs 语言模型是这里的核心推理引擎。为了使用 LangChain您需要了解不同类型的语言模型以及如何使用它们。提示模板 - Prompt templates 它为语言模型提供指令。它控制着语言模型的输出因此了解如何构建提示和不同的提示策略至关重要。输出解析器 - Output Parsers 它们将 LLM 的原始响应翻译成更易于使用的格式从而方便下游使用输出。
本部分我将单独介绍这三个组件然后介绍将所有组件结合在一起的 LLMChain 语言模型 - LLMs
在 LangChain 中存在两种语言模型
LLMs 将字符串作为输入并返回字符串的语言模型 LLMs 的输入/输出是简单易懂的字符串。ChatModels 聊天模型将信息列表作为输入并返回信息的语言模型 ChatModels 的输入是一个 ChatMessage 列表输出是一个 ChatMessage。ChatMessage 有两个必备组件 content内容 这是信息的内容。role角色 这是来自该 ChatMessage 的实体的角色。 LangChain 为这两种语言模型提供了一个标准接口该标准接口有两个方法
predict 接收一个字符串返回一个字符串明显是 LLMs 的方法。predict_messages 接收信息列表返回信息明显是 ChatModels 的方法。 LangChain 提供了多个对象可以轻松区分不同的角色
HumanMessage人类信息 来自人类/用户的 ChatMessage。AIMessage人工智能助手信息 来自人工智能/助手的聊天信息。SystemMessage系统信息 系统消息来自系统的聊天信息。FunctionMessage功能消息 来自函数调用的聊天信息。 初始化 llm 与 chat_model
from langchain.llms import OpenAI
from langchain.chat_models import ChatOpenAIllm OpenAI(openai_api_keyxxx)
chat_model ChatOpenAI(openai_api_keyxxx)
# 如果需要 API Key 可在博文下方留言使用 predict 方法运行字符串输入
text What would be a good company name for a company that makes colorful socks?print(llm.predict(text))
print(chat_model.predict(text))使用 predict_message 方法运行信息列表输入
from langchain.schema import HumanMessagetext What would be a good company name for a company that makes colorful socks?
messages [HumanMessage(contenttext)]print(llm.predict_messages(messages))
print(chat_model.predict_messages(messages))提示模板 - Prompt templates 提示模板是什么 在大语言模型中开发人员通常不会直接将用户输入传递给语言模型而是将用户输入添加到一个较大的文本段中该文本段称为 “提示模板”Prompt Template。 提示模板的目的 这样做的目的是为了为特定任务提供更多的上下文和指导从而引导语言模型生成更有针对性的输出。 这种方法有助于引导语言模型的生成使其更加专注于特定任务同时也可以控制生成的文本的风格和内容。通过提供上下文信息提示模板可以在不同应用场景中引导语言模型的生成以适应不同的用户需求。 字符串提示模板案例 from langchain.prompts import PromptTemplateprompt PromptTemplate.from_template(What is a good name for a company that makes {product}?)
prompt.format(productcolorful socks)信息列表提示模板案例 from langchain.prompts.chat import (ChatPromptTemplate,SystemMessagePromptTemplate,HumanMessagePromptTemplate,
)template You are a helpful assistant that translates {input_language} to {output_language}.
system_message_prompt SystemMessagePromptTemplate.from_template(template)
human_template {text}
human_message_prompt HumanMessagePromptTemplate.from_template(human_template)chat_prompt ChatPromptTemplate.from_messages([system_message_prompt, human_message_prompt])chat_prompt.format_messages(input_languageEnglish, output_languageFrench, textI love programming.)输出解析器 - Output Parsers 输出解析器的作用 输出解析器可将 LLM 的原始输出转换成下游可使用的格式。 输出解析器的类型 将 LLM 中的文本转换为结构化信息如 JSON将聊天信息转换为字符串将调用返回的除信息外的额外信息如 OpenAI 函数调用转换为字符串。等 案例 下案例为编写自己的输出解析器 – 将逗号分隔的列表转换为列表 from langchain.schema import BaseOutputParserclass CommaSeparatedListOutputParser(BaseOutputParser):Parse the output of an LLM call to a comma-separated list.def parse(self, text: str):Parse the output of an LLM call.return text.strip().split(, )CommaSeparatedListOutputParser().parse(hi, bye)
# [hi, bye]LLMChain 组合
现在我们将所有这些组合成一个链。 该链将接收输入变量将其传递给提示模板以创建提示将提示传递给 LLM然后将输出传递给输出解析器。 这是一种捆绑模块化逻辑的便捷方法。请看测试案例
from langchain.chat_models import ChatOpenAI
from langchain.prompts.chat import (ChatPromptTemplate,SystemMessagePromptTemplate,HumanMessagePromptTemplate,
)
from langchain.chains import LLMChain
from langchain.schema import BaseOutputParser# 输出解析器部分
class CommaSeparatedListOutputParser(BaseOutputParser):Parse the output of an LLM call to a comma-separated list.def parse(self, text: str):Parse the output of an LLM call.return text.strip().split(, )# 信息列表提示模板案例
template You are a helpful assistant who generates comma separated lists.
A user will pass in a category, and you should generate 5 objects in that category in a comma separated list.
ONLY return a comma separated list, and nothing more.
system_message_prompt SystemMessagePromptTemplate.from_template(template)
human_template {text}
human_message_prompt HumanMessagePromptTemplate.from_template(human_template)chat_prompt ChatPromptTemplate.from_messages([system_message_prompt, human_message_prompt])
chain LLMChain(llmChatOpenAI(),promptchat_prompt,output_parserCommaSeparatedListOutputParser()
)
chain.run(colors)
# [red, blue, green, yellow, orange]上一篇博文【LangChain】P0 LangChain 是什么与准备工作 下一篇博文
