-
Notifications
You must be signed in to change notification settings - Fork 60k
New issue
Have a question about this project? Sign up for a free GitHub account to open an issue and contact its maintainers and the community.
By clicking “Sign up for GitHub”, you agree to our terms of service and privacy statement. We’ll occasionally send you account related emails.
Already on GitHub? Sign in to your account
Fix/isValidMessage #5579
Fix/isValidMessage #5579
Changes from 5 commits
7fa8234
a039690
4bb52b2
7d7ca64
dd793e0
fe9c31c
b0236f7
File filter
Filter by extension
Conversations
Jump to
Diff view
Diff view
There are no files selected for viewing
Original file line number | Diff line number | Diff line change | ||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||
---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|
|
@@ -723,6 +723,7 @@ export const useChatStore = createPersistStore( | |||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||
}, | ||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||
onFinish(message) { | ||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||
console.log("[Memory] ", message); | ||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||
if (!isValidMessage(message)) return; | ||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||
get().updateCurrentSession((session) => { | ||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||
session.lastSummarizeIndex = lastSummarizeIndex; | ||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||
session.memoryPrompt = message; // Update the memory prompt for stored it in local storage | ||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||
|
@@ -735,7 +736,26 @@ export const useChatStore = createPersistStore( | |||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||
} | ||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||
|
||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||
function isValidMessage(message: any): boolean { | ||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||
return typeof message === "string" && !message.startsWith("```json"); | ||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||
if (typeof message !== "string") { | ||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||
return false; | ||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||
} | ||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||
if (message.startsWith("```") && message.endsWith("```")) { | ||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||
const codeBlockContent = message.slice(3, -3).trim(); | ||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||
const jsonString = codeBlockContent.replace(/^json\s*/i, '').trim(); | ||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||
try { | ||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||
// 返回 json 格式消息,error 字段为 true 或者包含 error.message 字段,判定为错误回复,否则为正常回复 | ||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||
const jsonObject = JSON.parse(jsonString); | ||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||
if (jsonObject?.error == true || jsonObject?.error?.message) { | ||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||
return false; | ||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||
} | ||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||
return true; | ||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||
} catch (e) { | ||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||
console.log("Invalid JSON format."); | ||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||
// 非 json 格式,通常可认为是正常回复 | ||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||
return true; | ||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||
} | ||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||
} | ||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||
return true; | ||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||
There was a problem hiding this comment. Choose a reason for hiding this commentThe reason will be displayed to describe this comment to others. Learn more. 🛠️ Refactor suggestion Enhance robustness of The
Here's a suggested refactor: function isValidMessage(message: any): boolean {
if (typeof message !== "string") {
return false;
}
if (message.startsWith("```") && message.endsWith("```")) {
const codeBlockContent = message.slice(3, -3).trim();
- const jsonString = codeBlockContent.replace(/^json\s*/i, '').trim();
+ if (codeBlockContent.toLowerCase().startsWith('json')) {
+ const jsonString = codeBlockContent.replace(/^json\s*/i, '').trim();
+ try {
+ const jsonObject = JSON.parse(jsonString);
+ return !jsonObject?.error?.message;
+ } catch (e) {
+ console.log("Invalid JSON format:", e.message);
+ return false;
+ }
+ }
+ // Non-JSON code blocks are considered valid
+ return true;
}
- try {
- // 返回 json 格式消息,error 字段为 true 或者包含 error.message 字段,判定为错误回复,否则为正常回复
- const jsonObject = JSON.parse(jsonString);
- if (jsonObject?.error == true || jsonObject?.error?.message) {
- return false;
- }
- return true;
- } catch (e) {
- console.log("Invalid JSON format.");
- // 非 json 格式,通常可认为是正常回复
- return true;
- }
- }
return true;
} This refactor:
📝 Committable suggestion
Suggested change
|
||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||
} | ||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||
}, | ||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||
|
||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||
|
Original file line number | Diff line number | Diff line change |
---|---|---|
@@ -0,0 +1,96 @@ | ||
function isValidMessage(message: any): boolean { | ||
There was a problem hiding this comment. Choose a reason for hiding this commentThe reason will be displayed to describe this comment to others. Learn more.
|
||
if (typeof message !== "string") { | ||
return false; | ||
} | ||
if (message.startsWith("```") && message.endsWith("```")) { | ||
const codeBlockContent = message.slice(3, -3).trim(); | ||
const jsonString = codeBlockContent.replace(/^json\s*/i, '').trim(); | ||
try { | ||
// 返回 json 格式消息,含 error.message 字段,判定为错误回复,否则为正常回复 | ||
const jsonObject = JSON.parse(jsonString); | ||
if (jsonObject?.error == true || jsonObject?.error?.message) { | ||
return false; | ||
} | ||
return true; | ||
} catch (e) { | ||
console.log("Invalid JSON format."); | ||
// 非 json 格式,大概率是正常回复 | ||
return true; | ||
} | ||
} | ||
return true; | ||
} | ||
|
||
describe("is valid message module", () => { | ||
test("error msg no.0", () => { | ||
const message = "Hello! How can I assist you today?"; | ||
expect(isValidMessage(message)).toBe(true); | ||
}); | ||
test("error msg no.1", () => { | ||
const message = ` | ||
\`\`\`json | ||
{ | ||
"error": true, | ||
"msg": "金额不足" | ||
} | ||
\`\`\` | ||
`; | ||
expect(isValidMessage(message)).toBe(false); | ||
}); | ||
test("error msg no.2", () => { | ||
const message = ` | ||
\`\`\` | ||
{ | ||
"error": { | ||
"message": "You didn't provide an API key. You need to provide your API key in an Authorization header using Bearer auth (i.e. Authorization: Bearer YOUR_KEY), or as the password field (with blank username) if you're accessing the API from your browser and are prompted for a username and password. You can obtain an API key from https://platform.openai.com/account/api-keys.", | ||
"type": "invalid_request_error", | ||
"param": null, | ||
"code": null | ||
} | ||
} | ||
\`\`\` | ||
`; | ||
expect(isValidMessage(message)).toBe(false); | ||
}); | ||
test("error msg no.3", () => { | ||
const message = ` | ||
\`\`\` | ||
{ | ||
"error": { | ||
"message": "Incorrect API key provided: 123456. You can find your API key at https://platform.openai.com/account/api-keys.", | ||
"type": "invalid_request_error", | ||
"param": null, | ||
"code": "invalid_api_key" | ||
} | ||
} | ||
\`\`\` | ||
`; | ||
expect(isValidMessage(message)).toBe(false); | ||
}); | ||
test("error msg no.4", () => { | ||
const message = ` | ||
\`\`\` | ||
{ | ||
"error": { | ||
"message": "当前分组 default 下对于模型 gpt-4 无可用渠道 (request id: 2024101214105418395279367750613)", | ||
"type": "one_api_error" | ||
} | ||
} | ||
\`\`\` | ||
`; | ||
expect(isValidMessage(message)).toBe(false); | ||
}); | ||
test("error msg no.5", () => { | ||
const message = ` | ||
\`\`\` | ||
{ | ||
"error": { | ||
"message": "该令牌状态不可用 (request id: 2024101214105418395279367750613)", | ||
"type": "one_api_error" | ||
} | ||
} | ||
\`\`\` | ||
`; | ||
expect(isValidMessage(message)).toBe(false); | ||
}); | ||
}); |
There was a problem hiding this comment.
Choose a reason for hiding this comment
The reason will be displayed to describe this comment to others. Learn more.
💡 Codebase verification
Potential unvalidated message processing detected in
app/store/chat.ts
at line 696.Please ensure that
isValidMessage
is invoked consistently wherever messages are processed to maintain validation integrity.🔗 Analysis chain
Verify that message validation is consistently applied
In the
onFinish
callback, the checkif (!isValidMessage(message)) return;
ensures that invalid messages are not processed. To maintain consistency and robustness, ensure that all instances where messages are processed include validation usingisValidMessage
.Run the following script to check for other message handling without validation:
🏁 Scripts executed
The following scripts were executed for the analysis:
Script:
Length of output: 2295