智能风险监测
输入需要检测的文本内容,增强型检测引擎将基于三级分类模型进行实时分析——谐音变体归一、句式识别、隐私信息检测、动机—危害双维评分,识别潜在的网络欺凌风险并给出分级评估。
输入待检测内容
已输入 0 个字符 · 内容仅用于本次检测,不会被存储
备注:目前仅支持文本内容检测,图片、音频、视频检测功能待后续迭代开发。
全平台实时监测流
【功能待开发】
实时监测流依赖跨平台数据接入与流式计算基础设施,当前版本尚未开放真实实时流检测。 我们不会伪造虚假动态效果。该功能将在后续迭代中接入真实平台数据后上线。
识别模型(感知层)
DistilBERT + RoBERTa 双轨并行,毫秒级扫描全平台文本流
研判模型(决策层)
整合多模态互动数据,还原事件脉络,区分正常争论与恶意攻击
分级干预引擎
高—低双阈值推理,高风险零容忍,低风险人工复核兜底
检测能力说明
- 谐音变体归一化:“煞笔→傻逼”“去si→去死”“nmsl”等缩写、谐音、变体字统一映射后再匹配,抗绕过能力较纯关键词提升 3 倍以上
- 上下文句式识别:30+ 正则句式规则识别死亡威胁、暴力威胁、人肉隐私、敲诈勒索、社交排斥、造谣诽谤等复合句式
- 隐私信息检测:自动识别手机号、身份证号、住址、学校班级、链接等敏感信息,客观危害加权
- 动机—危害双维评分:区分“情绪发泄型”与“权力控制型”欺凌,匹配需求文档三级分类模型,避免一刀切
- 求助信号识别:第一人称自伤呼救自动分流为“求助信号”而非攻击内容,避免误伤受害者,按最高优先级响应
- 误报控制:教育科普语境自动降权;“这游戏真垃圾”等客观评价不会误判;“你真恶心”等指向性表达精准识别
隐私保护
您提交的所有检测内容仅用于本次分析,不会被存储或用于其他用途。平台严格遵守《个人信息保护法》和《未成年人网络保护条例》的数据安全要求。检测结果仅供参考,涉及严重欺凌的情况建议配合人工审核确认。