mirror of
https://github.com/FloatTech/ZeroBot-Plugin.git
synced 2025-12-19 13:59:39 +08:00
270 lines
8.6 KiB
Go
270 lines
8.6 KiB
Go
package baiduaudit
|
||
|
||
import (
|
||
"encoding/json"
|
||
"os"
|
||
"sync"
|
||
"sync/atomic"
|
||
|
||
"github.com/FloatTech/floatbox/file"
|
||
zero "github.com/wdvxdr1123/ZeroBot"
|
||
"github.com/wdvxdr1123/ZeroBot/message"
|
||
)
|
||
|
||
// 服务网址:https://console.bce.baidu.com/ai/?_=1665977657185#/ai/antiporn/overview/index
|
||
// 返回参数说明：https://cloud.baidu.com/doc/ANTIPORN/s/Nk3h6xbb2
|
||
type baiduRes struct {
|
||
mu sync.Mutex `json:"-"`
|
||
// LogID int `json:"log_id"` // 请求唯一id
|
||
Conclusion string `json:"conclusion"` // 审核结果, 可取值：合规、不合规、疑似、审核失败
|
||
ConclusionType int `json:"conclusionType"` // 审核结果类型, 可取值1.合规, 2.不合规, 3.疑似, 4.审核失败
|
||
Data []*auditData `json:"data"`
|
||
ErrorCode int `json:"error_code"` // 错误提示码, 失败才返回, 成功不返回
|
||
ErrorMsg string `json:"error_msg"` // 错误提示信息, 失败才返回, 成功不返回
|
||
}
|
||
|
||
// 禁言检测
|
||
func (bdres *baiduRes) audit(ctx *zero.Ctx, configpath string) {
|
||
bdres.mu.Lock()
|
||
defer bdres.mu.Unlock()
|
||
// 如果返回类型为2（不合规）, 0为合规, 3为疑似
|
||
if bdres.ConclusionType != 2 {
|
||
return
|
||
}
|
||
// 获取群配置
|
||
group := config.groupof(ctx.Event.GroupID)
|
||
// 检测群配置里的不检测类型白名单, 忽略掉不检测的违规类型
|
||
for i, b := range group.copyWhiteListType() {
|
||
if i == bdres.Data[0].SubType && b {
|
||
return
|
||
}
|
||
}
|
||
// 生成回复文本
|
||
res := group.reply(bdres)
|
||
// 撤回消息
|
||
ctx.DeleteMessage(ctx.Event.MessageID)
|
||
// 查看是否启用撤回后禁言
|
||
if group.DMBAN {
|
||
// 从历史违规记录中获取指定用户
|
||
user := group.historyof(ctx.Event.UserID)
|
||
// 用户违规次数自增
|
||
atomic.AddInt64(&user.Count, 1)
|
||
user.mu.Lock()
|
||
// 用户违规原因记录
|
||
user.ResList = append(user.ResList, bdres)
|
||
user.mu.Unlock()
|
||
// 保存到json
|
||
err := config.saveto(configpath)
|
||
if err != nil {
|
||
ctx.SendChain(message.Text("ERROR: ", err))
|
||
}
|
||
var bantime int64
|
||
// 查看是否开启禁言累加功能, 并计算禁言时间
|
||
if group.BANTimeAddEnable {
|
||
bantime = atomic.LoadInt64(&user.Count) * group.BANTimeAddTime * 60
|
||
} else {
|
||
bantime = group.BANTime * 60
|
||
}
|
||
// 执行禁言
|
||
ctx.SetThisGroupBan(ctx.Event.UserID, bantime)
|
||
}
|
||
// 查看是否开启撤回提示
|
||
if group.DMRemind {
|
||
res = append(res, message.At(ctx.Event.Sender.ID))
|
||
ctx.Send(res)
|
||
}
|
||
}
|
||
|
||
type auditData struct {
|
||
// Type int `json:"type"` // 审核主类型, 11：百度官方违禁词库、12：文本反作弊、13:自定义文本黑名单、14:自定义文本白名单
|
||
SubType int `json:"subType"` // 审核子类型, 0:含多种类型, 具体看官方链接, 1:违禁违规、2:文本色情、3:敏感信息、4:恶意推广、5:低俗辱骂 6:恶意推广-联系方式、7:恶意推广-软文推广
|
||
// Conclusion string `json:"conclusion"` // 审核结果, 可取值：合规、不合规、疑似、审核失败
|
||
// ConclusionType int `json:"conclusionType"` // 审核结果类型, 可取值1.合规, 2.不合规, 3.疑似, 4.审核失败
|
||
Msg string `json:"msg"` // 不合规项描述信息
|
||
Hits []*hit `json:"hits"`
|
||
} // 不合规/疑似/命中白名单项详细信息.响应成功并且conclusion为疑似或不合规或命中白名单时才返回, 响应失败或conclusion为合规且未命中白名单时不返回.
|
||
|
||
type auditHistory struct {
|
||
mu sync.Mutex `json:"-"`
|
||
Count int64 `json:"key2"` // 被禁次数
|
||
ResList []*baiduRes `json:"reslist"` // 禁言原因
|
||
}
|
||
|
||
type hit struct {
|
||
// DatasetName string `json:"datasetName"` // 违规项目所属数据集名称
|
||
Words []string `json:"words"` // 送检文本命中词库的关键词（备注：建议参考新字段“wordHitPositions”, 包含信息更丰富：关键词以及对应的位置及标签信息）
|
||
// Probability float64 `json:"probability,omitempty"` // 不合规项置信度
|
||
} // 送检文本违规原因的详细信息
|
||
|
||
type keyConfig struct {
|
||
mu sync.Mutex `json:"-"`
|
||
Key1 string `json:"key1"` // 百度云服务内容审核key存储
|
||
Key2 string `json:"key2"` // 百度云服务内容审核key存储
|
||
Groups map[int64]*group `json:"groups"` // 群配置存储
|
||
}
|
||
|
||
func newconfig() (kc keyConfig) {
|
||
kc.Groups = make(map[int64]*group, 64)
|
||
return
|
||
}
|
||
|
||
func (kc *keyConfig) setkey(k1, k2 string) {
|
||
kc.mu.Lock()
|
||
defer kc.mu.Unlock()
|
||
kc.Key1 = k1
|
||
kc.Key2 = k2
|
||
}
|
||
|
||
// 加载JSON配置文件
|
||
func (kc *keyConfig) load(filename string) error {
|
||
if file.IsNotExist(filename) {
|
||
return nil
|
||
}
|
||
f, err := os.Open(filename)
|
||
if err != nil {
|
||
return err
|
||
}
|
||
kc.mu.Lock()
|
||
defer kc.mu.Unlock()
|
||
return json.NewDecoder(f).Decode(kc)
|
||
}
|
||
|
||
func (kc *keyConfig) isgroupexist(ctx *zero.Ctx) (ok bool) {
|
||
kc.mu.Lock()
|
||
defer kc.mu.Unlock()
|
||
_, ok = kc.Groups[ctx.Event.GroupID]
|
||
return
|
||
}
|
||
|
||
// 获取群配置
|
||
func (kc *keyConfig) groupof(groupID int64) *group {
|
||
kc.mu.Lock()
|
||
defer kc.mu.Unlock()
|
||
g, ok := kc.Groups[groupID]
|
||
if ok {
|
||
return g
|
||
}
|
||
g = &group{
|
||
TextAudit: true,
|
||
ImageAudit: true,
|
||
BANTime: 1,
|
||
MaxBANTimeAddRange: 60,
|
||
BANTimeAddTime: 1,
|
||
AuditHistory: map[int64]*auditHistory{},
|
||
}
|
||
kc.Groups[groupID] = g
|
||
return g
|
||
}
|
||
|
||
// 保存配置文件
|
||
func (kc *keyConfig) saveto(filename string) error {
|
||
kc.mu.Lock()
|
||
defer kc.mu.Unlock()
|
||
f, err := os.Create(filename)
|
||
if err != nil {
|
||
return err
|
||
}
|
||
defer f.Close()
|
||
return json.NewEncoder(f).Encode(kc)
|
||
}
|
||
|
||
type group struct {
|
||
mu sync.Mutex
|
||
Enable mark // 是否启用内容审核
|
||
TextAudit mark // 文本检测
|
||
ImageAudit mark // 图像检测
|
||
DMRemind mark // 撤回提示
|
||
MoreRemind mark // 详细违规提示
|
||
DMBAN mark // 撤回后禁言
|
||
BANTimeAddEnable mark // 禁言累加
|
||
BANTime int64 // 标准禁言时间, 禁用累加, 但开启禁言的的情况下采用该值
|
||
MaxBANTimeAddRange int64 // 最大禁言时间累加范围, 最高禁言时间
|
||
BANTimeAddTime int64 // 禁言累加时间, 该值是开启禁累加功能后, 再次触发时, 根据被禁次数X该值计算出的禁言时间
|
||
WhiteListType [8]bool // 类型白名单, 处于白名单类型的违规, 不会被触发 0:含多种类型, 具体看官方链接, 1:违禁违规、2:文本色情、3:敏感信息、4:恶意推广、5:低俗辱骂 6:恶意推广-联系方式、7:恶意推广-软文推广
|
||
AuditHistory map[int64]*auditHistory // 被封禁用户列表
|
||
}
|
||
|
||
func (g *group) set(f func(g *group)) {
|
||
g.mu.Lock()
|
||
f(g)
|
||
g.mu.Unlock()
|
||
}
|
||
|
||
func (g *group) setWhiteListType(typ int, ok bool) {
|
||
g.mu.Lock()
|
||
defer g.mu.Unlock()
|
||
g.WhiteListType[typ] = ok
|
||
}
|
||
|
||
func (g *group) copyWhiteListType() [8]bool {
|
||
g.mu.Lock()
|
||
defer g.mu.Unlock()
|
||
return g.WhiteListType
|
||
}
|
||
|
||
// 从群历史违规记录中获取用户
|
||
func (g *group) historyof(userID int64) *auditHistory {
|
||
g.mu.Lock()
|
||
defer g.mu.Unlock()
|
||
audit, ok := g.AuditHistory[userID]
|
||
if ok {
|
||
return audit
|
||
}
|
||
// 如果没有用户, 则创建一个并返回
|
||
if g.AuditHistory == nil {
|
||
g.AuditHistory = make(map[int64]*auditHistory)
|
||
}
|
||
audit = &auditHistory{}
|
||
g.AuditHistory[userID] = audit
|
||
return audit
|
||
}
|
||
|
||
// 生成回复文本
|
||
func (g *group) reply(bdres *baiduRes) message.Message {
|
||
g.mu.Lock()
|
||
defer g.mu.Unlock()
|
||
// 建立消息段
|
||
msgs := make([]message.MessageSegment, 0, 8)
|
||
// 生成简略审核结果回复
|
||
msgs = append(msgs, message.Text(bdres.Conclusion, "\n"))
|
||
// 查看是否开启详细审核内容提示, 并确定审核内容值为疑似, 或者不合规
|
||
if !g.MoreRemind {
|
||
return msgs
|
||
}
|
||
// 遍历返回的不合规数据, 生成详细违规内容
|
||
for i, datum := range bdres.Data {
|
||
msgs = append(msgs, message.Text("[", i, "]:", datum.Msg, "\n"))
|
||
// 检查命中词条是否大于0
|
||
if len(datum.Hits) == 0 {
|
||
return msgs
|
||
}
|
||
// 遍历打印命中的违规词条
|
||
for _, hit := range datum.Hits {
|
||
if len(datum.Hits) == 0 {
|
||
return msgs
|
||
}
|
||
msgs = append(msgs, message.Text("("))
|
||
for i4, i3 := range hit.Words {
|
||
// 检查是否是最后一个要打印的词条, 如果是则不加上逗号
|
||
if i4 != len(hit.Words)-1 {
|
||
msgs = append(msgs, message.Text(i3, ","))
|
||
} else {
|
||
msgs = append(msgs, message.Text(i3))
|
||
}
|
||
}
|
||
msgs = append(msgs, message.Text(")"))
|
||
}
|
||
}
|
||
return msgs
|
||
}
|
||
|
||
type mark bool
|
||
|
||
// String 打印启用状态
|
||
func (em mark) String() string {
|
||
if em {
|
||
return "开启"
|
||
}
|
||
return "关闭"
|
||
}
|