设置了qwen和openai两种模式,都能成功

cache.json

@@ -1 +1 @@
-{"帮我用google搜一下genv": {"response": "**API编排步骤：**\n* 第1步: 使用Google进行搜索，查询关于\"genv\"的信息。\n\n", "rewoo_state": {"task": "帮我用google搜一下genv", "plan_string": "Plan: 使用Google进行搜索，查询关于\"genv\"的信息。\n#E1 = Google[genv]", "steps": [["使用Google进行搜索，查询关于\"genv\"的信息。", "#E1", "Google", "genv"]]}}}
+{"帮我用google搜一下genv": {"response": "**API编排步骤：**\n* 第1步: 使用Google进行搜索，查询关于\"genv\"的信息。\n\n", "rewoo_state": {"task": "帮我用google搜一下genv", "plan_string": "Plan: 使用Google进行搜索，查询关于\"genv\"的信息。\n#E1 = Google[genv]", "steps": [["使用Google进行搜索，查询关于\"genv\"的信息。", "#E1", "Google", "genv"]]}}, "帮我用google搜一下genv\n\n": {"response": "**API编排步骤：**\n* 第1步: 使用Google进行搜索，查询关于\"genv\"的信息。\n\n", "rewoo_state": {"task": "帮我用google搜一下genv\n\n", "plan_string": "Plan: 使用Google进行搜索，查询关于\"genv\"的信息。\n#E1 = Google[genv]", "steps": [["使用Google进行搜索，查询关于\"genv\"的信息。", "#E1", "Google", "genv"]]}}}

config.py

@@ -3,6 +3,8 @@
 
 TOOL_LIST = get_tool_list_str()
 
+MODEL = "qwen" # qwen或者gpt-3.5
+
 # 可以在这里指定
 TASK = "我想知道长沙的天气，以及我等下要去长沙玩，能不能帮我查一下酒店?"
 

rewoo.py

@@ -1,7 +1,7 @@
 import os
 import re
 from typing import TypedDict, List
-from config import TOOL_LIST, TASK, PROMPT_TEMPLATE, SOLVE_PROMPT
+from config import TOOL_LIST, TASK, PROMPT_TEMPLATE, SOLVE_PROMPT, MODEL
 from langchain_openai import ChatOpenAI
 from langchain_core.prompts import ChatPromptTemplate
 from langchain_community.llms import Tongyi
@@ -26,11 +26,12 @@ class ReWOO(TypedDict):
     result: str
 
 # 初始化模型
-# 使用OpenAI模型
-model = ChatOpenAI(temperature=0.1, model="gpt-3.5-turbo")
-# 使用Qwen的模型
-# model = Tongyi()
 # TODO：后续要替换为自己的本地Qwen模型
+if MODEL == "qwen":
+    model = Tongyi()
+else:
+    model = ChatOpenAI(temperature=0.1, model="gpt-3.5-turbo")
+
 
 # 正则表达式
 # 这是原本的表达式，但是容易识别不出steps
@@ -51,20 +52,20 @@ def get_plan(state: ReWOO):
     # 改为qwen的话，会在这个部分出问题
     result = planner.invoke({"task": task, "tool_list": TOOL_LIST})
 
-    logger.error(f"Qwen模型的回复：{result.content}")
-
     # 如果是用OpenAI，这里的result都得改为result.content（一共有4个地方）
     # 如果是用Qwen，这里就保持result就好
-    matches = re.findall(regex_pattern, result.content)
+    if MODEL == "qwen":
+        logger.error(f"Qwen模型的回复：{result}")
+    else:
+        result = result.content
+        logger.error(f"Qwen模型的回复：{result}")
+
+    matches = re.findall(regex_pattern, result)
     logger.critical("计划步骤:")
 
-    # for step in matches:
-    #     logger.critical(f"Plan: {step[0]}, {step[1]} = {step[2]}[{step[3]}]")
-    #     logger.critical(f"step:{step}")
-
     logger.debug(f"steps:{matches}")
 
-    return {"steps": matches, "plan_string": result.content}
+    return {"steps": matches, "plan_string": result}
 
 def _get_current_task(state: ReWOO):
     """确定当前任务步骤。"""
@@ -107,8 +108,10 @@ def solve(state: ReWOO):
         plan += f"Plan: {_plan}\n{step_name} = {tool}[{tool_input}]\n"
     prompt = SOLVE_PROMPT.format(plan=plan, task=state["task"])
     result = model.invoke(prompt)
+    if MODEL != "qwen":
+        result = result.content
 
-    return {"result": result.content}
+    return {"result": result}
 
 def _route(state):
     """确定任务执行的下一步。"""
@@ -169,7 +172,6 @@ def execute_plan(state: ReWOO = ReWOO(task="帮我查询北京的天气")):
     app = graph.compile()
 
 
-
     i = 1
     for s in app.stream(state):
         logger.debug(f"Step {i}: {s}")