Beta121

applogic/chatglm.go

@@ -133,7 +133,7 @@ func (app *App) ChatHandlerGlm(w http.ResponseWriter, r *http.Request) {
 			}
 		} else {
 			// 只获取系统提示词
-			systemMessage, err := prompt.FindFirstSystemMessage(history)
+			systemMessage, err := prompt.GetFirstSystemMessageStruct(promptstr)
 			if err != nil {
 				fmt.Println("Error:", err)
 			} else {
@@ -164,28 +164,33 @@ func (app *App) ChatHandlerGlm(w http.ResponseWriter, r *http.Request) {
 				fmtf.Printf("Error getting system history: %v,promptstr[%v]\n", err, promptstr)
 				return
 			}
-
-			// 处理增强QA逻辑
 			if config.GetEnhancedQA(promptstr) {
-				// 确保系统历史与用户或助手历史数量一致，如果不足，则补足空的历史记录
-				// 因为最后一个成员让给当前QA,所以-1
-				if len(systemHistory)-2 > len(userHistory) {
-					difference := len(systemHistory) - len(userHistory)
+				systemHistory, err := prompt.GetMessagesExcludingSystem(promptstr)
+				if err != nil {
+					fmt.Printf("Error getting system history: %v\n", err)
+					return
+				}
+
+				// 计算需要补足的历史记录数量
+				neededHistoryCount := len(systemHistory) - 2 // 最后两条留给当前QA处理
+				if neededHistoryCount > len(userHistory) {
+					// 补足用户或助手历史
+					difference := neededHistoryCount - len(userHistory)
 					for i := 0; i < difference; i++ {
-						userHistory = append(userHistory, structs.Message{Text: "", Role: "user"})
-						userHistory = append(userHistory, structs.Message{Text: "", Role: "assistant"})
+						if i%2 != 0 {
+							userHistory = append(userHistory, structs.Message{Text: "", Role: "user"})
+						} else {
+							userHistory = append(userHistory, structs.Message{Text: "", Role: "assistant"})
+						}
 					}
 				}
 
-				// 如果系统历史中只有一个成员，跳过覆盖逻辑，留给后续处理
-				if len(systemHistory) > 1 {
-					// 将系统历史（除最后2个成员外）附加到相应的用户或助手历史上，采用倒序方式处理最近的记录
-					for i := 0; i < len(systemHistory)-2; i++ {
-						sysMsg := systemHistory[i]
-						index := len(userHistory) - len(systemHistory) + i
-						if index >= 0 && index < len(userHistory) && (userHistory[index].Role == "user" || userHistory[index].Role == "assistant") {
-							userHistory[index].Text += fmt.Sprintf(" (%s)", sysMsg.Text)
-						}
+				// 附加系统历史到用户或助手历史，除了最后两条
+				for i := 0; i < len(systemHistory)-2; i++ {
+					sysMsg := systemHistory[i]
+					index := len(userHistory) - neededHistoryCount + i
+					if index >= 0 && index < len(userHistory) {
+						userHistory[index].Text += fmt.Sprintf(" (%s)", sysMsg.Text)
 					}
 				}
 			} else {
@@ -225,16 +230,16 @@ func (app *App) ChatHandlerGlm(w http.ResponseWriter, r *http.Request) {
 	}
 
 	// 获取配置信息
-	apiKey := config.GetGlmApiKey()
+	apiKey := config.GetGlmApiKey(promptstr)
 	// 创建请求体的映射结构
 	requestBody := map[string]interface{}{
-		"model":       config.GetGlmModel(),
+		"model":       config.GetGlmModel(promptstr),
 		"messages":    messages,
 		"do_sample":   config.GetGlmDoSample(),
 		"stream":      config.GetuseSse(promptstr),
 		"temperature": config.GetGlmTemperature(),
 		"top_p":       config.GetGlmTopP(),
-		"max_tokens":  config.GetGlmMaxTokens(),
+		"max_tokens":  config.GetGlmMaxTokens(promptstr),
 		"stop":        config.GetGlmStop(),
 		//"tools":       config.GetGlmTools(), 不太清楚参数格式
 		"tool_choice": config.GetGlmToolChoice(),

applogic/ernie.go

@@ -133,12 +133,17 @@ func (app *App) ChatHandlerErnie(w http.ResponseWriter, r *http.Request) {
 			// 处理增强QA逻辑
 			if config.GetEnhancedQA(promptstr) {
 				// 确保系统历史与用户或助手历史数量一致，如果不足，则补足空的历史记录
-				// 因为最后一个成员让给当前QA,所以-1
-				if len(systemHistory)-2 > len(userHistory) {
-					difference := len(systemHistory) - len(userHistory)
+				// 计算需要补足的历史记录数量
+				neededHistoryCount := len(systemHistory) - 2 // 最后两条留给当前QA处理
+				if neededHistoryCount > len(userHistory) {
+					// 补足用户或助手历史
+					difference := neededHistoryCount - len(userHistory)
 					for i := 0; i < difference; i++ {
-						userHistory = append(userHistory, structs.Message{Text: "", Role: "user"})
-						userHistory = append(userHistory, structs.Message{Text: "", Role: "assistant"})
+						if i%2 != 0 {
+							userHistory = append(userHistory, structs.Message{Text: "", Role: "user"})
+						} else {
+							userHistory = append(userHistory, structs.Message{Text: "", Role: "assistant"})
+						}
 					}
 				}
 

applogic/gensokyo.go

@@ -11,6 +11,7 @@ import (
 	"net/url"
 	"strconv"
 	"strings"
+	"sync"
 
 	"github.com/hoshinonyaruko/gensokyo-llm/acnode"
 	"github.com/hoshinonyaruko/gensokyo-llm/config"
@@ -20,7 +21,8 @@ import (
 )
 
 var newmsgToStringMap = make(map[string]string)
-var stringToIndexMap = make(map[string]int)
+var stringToIndexMap sync.Map
+var processMessageMu sync.Mutex
 
 // RecordStringById 根据id记录一个string
 func RecordStringByNewmsg(id, value string) {
@@ -38,20 +40,30 @@ func GetStringByNewmsg(newmsg string) string {
 
 // IncrementIndex 为给定的字符串递增索引
 func IncrementIndex(s string) int {
-	// 检查map中是否已经有这个字符串的索引
-	if _, exists := stringToIndexMap[s]; !exists {
-		// 如果不存在，初始化为0
-		stringToIndexMap[s] = 0
+	// 尝试从map中获取值，如果不存在则初始化为0
+	val, loaded := stringToIndexMap.LoadOrStore(s, 0)
+	if !loaded {
+		// 如果这是一个新的键，我们现在将其值设置为1
+		stringToIndexMap.Store(s, 1)
+		return 1
 	}
-	// 递增索引
-	stringToIndexMap[s]++
-	// 返回新的索引值
-	return stringToIndexMap[s]
+
+	// 如果已存在，递增索引
+	newVal := val.(int) + 1
+	stringToIndexMap.Store(s, newVal)
+	return newVal
 }
 
-// ResetIndex 将给定字符串的索引归零
+// ResetIndex 重置或删除给定字符串的索引
 func ResetIndex(s string) {
-	stringToIndexMap[s] = 0
+	// 直接从map中删除指定的键
+	stringToIndexMap.Delete(s)
+}
+
+// ResetAllIndexes 清空整个索引map
+func ResetAllIndexes() {
+	// 重新初始化stringToIndexMap，因为sync.Map没有提供清空所有条目的直接方法
+	stringToIndexMap = sync.Map{}
 }
 
 // checkMessageForHints 检查消息中是否包含给定的提示词
@@ -194,18 +206,14 @@ func (app *App) GensokyoHandler(w http.ResponseWriter, r *http.Request) {
 		}
 	}
 
-	// 读取URL参数 "selfid"
-	selfid := r.URL.Query().Get("selfid")
-	if selfid != "" {
-		// 使用 prompt 变量进行后续处理
-		fmt.Printf("收到selfid参数: %s\n", selfid)
-	}
+	// 直接从ob11事件获取selfid
+	selfid := strconv.FormatInt(message.SelfID, 10)
 
 	// 读取URL参数 "api"
 	api := r.URL.Query().Get("api")
-	if selfid != "" {
+	if api != "" {
 		// 使用 prompt 变量进行后续处理
-		fmt.Printf("收到api参数: %s\n", selfid)
+		fmt.Printf("收到api参数: %s\n", api)
 	}
 
 	// 打印日志信息，包括prompt参数
@@ -252,7 +260,7 @@ func (app *App) GensokyoHandler(w http.ResponseWriter, r *http.Request) {
 		}
 
 		if utils.BlacklistIntercept(message, selfid) {
-			fmtf.Printf("userid:[%v]这位用户在黑名单中,被拦截", message.UserID)
+			fmtf.Printf("userid:[%v]groupid:[%v]这位用户或群在黑名单中,被拦截", message.UserID, message.GroupID)
 			return
 		}
 
@@ -607,7 +615,11 @@ func (app *App) GensokyoHandler(w http.ResponseWriter, r *http.Request) {
 						lastMessageID = id // 更新lastMessageID
 						// 检查是否有未发送的消息部分
 						key := utils.GetKey(message.GroupID, message.UserID)
-						accumulatedMessage, exists := groupUserMessages[key]
+						accumulatedMessageInterface, exists := groupUserMessages.Load(key)
+						var accumulatedMessage string
+						if exists {
+							accumulatedMessage = accumulatedMessageInterface.(string)
+						}
 
 						// 提取response字段
 						if response, ok = responseData["response"].(string); ok {
@@ -721,8 +733,8 @@ func (app *App) GensokyoHandler(w http.ResponseWriter, r *http.Request) {
 								}
 							}
 
-							// 清空映射中对应的累积消息
-							groupUserMessages[key] = ""
+							// 清空key的值
+							groupUserMessages.Store(key, "")
 						}
 					} else {
 						//发送信息
@@ -909,7 +921,16 @@ func processMessage(response string, msg structs.OnebotGroupMessage, newmesssage
 			// 达到标点符号，发送累积的整个消息
 			if messageBuilder.Len() > 0 {
 				accumulatedMessage := messageBuilder.String()
-				groupUserMessages[key] += accumulatedMessage
+				// 锁定
+				processMessageMu.Lock()
+				// 从sync.map读取当前的value
+				valueInterface, _ := groupUserMessages.Load(key)
+				value, _ := valueInterface.(string)
+				// 添加当前messageBuilder中的新内容
+				value += accumulatedMessage
+				// 储存新的内容到sync.map
+				groupUserMessages.Store(key, value)
+				processMessageMu.Unlock() // 完成更新后时解锁
 
 				// 判断消息类型，如果是私人消息或私有群消息，发送私人消息；否则，根据配置决定是否发送群消息
 				if msg.RealMessageType == "group_private" || msg.MessageType == "private" {