违禁句子检测怎么做

哭红眼吓死你 · 发表于 7 天前

想做一个违反了价值观的句子或词语的检测我这里使用了snowNLP和 Bert 的中文模型但是效果不佳比如说
假如XX是违禁词
对于snowNLP来说如果直接说或者谐音都能识别为负面
你是个XX
XX是你
但是如果加入大量的赞扬词后，将变成积极句子，例如：
你真是个完美无缺漂亮的美丽的XX
不知道该怎么搞

黑咖啡 · 发表于 7 天前

有违禁词直接就淘汰掉

2wEn · 发表于 7 天前

Hugging Face PaddlePaddle

禁回忆 · 发表于 7 天前

indexOf，有违禁词就判断违规，自己维护一个词库

郝郝 · 发表于 7 天前

接豆包把

你送的花开了 · 发表于 7 天前

比如“shabi” 做字库呗检测到就直接拦截

补充内容 (2025-8-4 21:52):
任何谐音都拦截就行了既然是违禁词那直接检测就行了

补充内容 (2025-8-4 21:53):
主要检测关键词

华庭大哥 · 发表于 7 天前

1. 构建违禁词词库，包括谐音变体（可以使用拼音、常见谐音字等）。
2. 使用正则表达式或AC自动机等快速匹配违禁词。
3. 如果匹配到违禁词，则进入第二阶段分析。
使用BERT等模型进行细粒度情感分析或使用规则来调整情感得分。

哭红眼吓死你 · 发表于 6 天前

华庭大哥发表于 2025-8-4 22:13
1. 构建违禁词词库，包括谐音变体（可以使用拼音、常见谐音字等）。
2. 使用正则表达式或AC自动机等快速 ...

谐音变体这种用snownlp就可以解决这边我也使用了snownlp模型但是效果不佳

哭红眼吓死你 · 发表于 6 天前

你送的花开了发表于 2025-8-4 21:52
比如“shabi” 做字库呗检测到就直接拦截

补充内容 (2025-8-4 21:52):

这种用snownlp就可以解决

华庭大哥 · 发表于 6 天前

哭红眼吓死你发表于 2025-8-5 09:38
谐音变体这种用snownlp就可以解决这边我也使用了snownlp模型但是效果不佳

直接文字转拼音

		自动登录	找回密码
密码			注册

[其它求助] 违禁句子检测怎么做

浏览过的版块