在主打邻里社交的互联网公司“邻声”做内容审核的应届毕业生林满,入职刚满试用期就撞上公司力推的AI审核系统“不良词汇过滤器”上线——技术部主管放话,这套靠关键词机械触发的系统能把违规内容拦截率拉到99.8%,直接砍掉一半审核人力冲季度业绩。 谁料这套完全不辨语境的系统上线就闹得鸡飞狗跳:卖卤味的社区阿姨发“今天的鸭脖子够辣”被判定涉低俗内容限流,渐冻症博主分享康复日常提到“肌肉萎缩”被判定涉及人身攻击禁言,甚至有用户给过世妈妈发的悼念动态里写“想你到死”,直接被系统判定涉暴力恐吓永久封了账号。 一开始只想摸鱼保工作的林满,看着满后台离谱的误判申诉,从偷偷给无辜用户走绿色通道解封,到硬扛着只看数据的主管压力,攒了三百多页日常语境下的真实语料优化系统,最终把这套只会生硬卡词的冰冷过滤器,改成了能分辨情绪、接住普通人真实表达的内容守门人,也在满屏细碎文字里读懂了藏在日常里的人情温度。


