ModelCallLimitMiddleware和ToolCallLimitMiddleware)
文章目录1 模型初始化2 ModelCallLimitMiddleware中间件2.1 举例1：整个会话限制-优雅退出2.2 举例2：整个会话限制-抛异常2.3 举例3：单次调用限制-优雅退出2.3.1 服务端代码(fake-server)2.3.2 客户端代码2.4 举例4：单次调用限制-抛异常3 ToolCallLimitMiddleware中间件3.1 举例1：整个会话限制-优雅结束3.2 举例2：整个会话限制-抛异常3.3 案例3：单次调用限制-继续运行ModelCallLimitMiddleware，限制模型调用次数，避免无限循环，控制调用成本。ToolCallLimitMiddleware，限制工具调用次数，可以限制所有工具调用的总次数，也可以限制特定工具的调用次数。1 模型初始化from langchain_openaiimportChatOpenAI from dotenvimportload_dotenvimportos load_dotenv(override=True)#通过ChatOpenAI 连接模型API_KEY=os.getenv("API_KEY")BASE_URL langchain1.X学习笔记-24-中间件Middleware之其它内置中间件(一)ModelCallLimitMiddleware和ToolCallLimitMiddleware
文章目录1 模型初始化2 ModelCallLimitMiddleware中间件2.1 举例1：整个会话限制-优雅退出2.2 举例2：整个会话限制-抛异常2.3 举例3：单次调用限制-优雅退出2.3.1 服务端代码(fake-server)2.3.2 客户端代码2.4 举例4：单次调用限制-抛异常3 ToolCallLimitMiddleware中间件3.1 举例1：整个会话限制-优雅结束3.2 举例2：整个会话限制-抛异常3.3 案例3：单次调用限制-继续运行ModelCallLimitMiddleware，限制模型调用次数，避免无限循环，控制调用成本。ToolCallLimitMiddleware，限制工具调用次数，可以限制所有工具调用的总次数，也可以限制特定工具的调用次数。1 模型初始化from langchain_openaiimportChatOpenAI from dotenvimportload_dotenvimportos load_dotenv(override=True)#通过ChatOpenAI 连接模型API_KEY=os.getenv("API_KEY")BASE_URL