Page 131 - 《社会》2026年第4期

社会·2026·4

进入前就已固定存在的外部规则，而是在多主体围绕阈值、解释与责任
不断协商的过程中被生产出来的实践秩序。
2. 在算法敏感与经验直觉之间：伦理判断的张力与校正
实践中，这种协作关系并非始终稳定。 部分年轻社工在使用 AI 进
行风险评估时出现过度依赖智能系统的倾向。 一名医护人员（N3）对此
表示了担忧：“ AI 有时候会误报， 比如病人只是提到了抑郁这个词，就

被判定为‘抑郁倾向’。 年轻社工会很紧张，立刻去做心理干预。 其实那
位病人只是因为身体的痛苦，就说自己有点抑郁情绪，并不是心理健康
出现了问题。 AI 的预警有价值，但如果不结合人的直觉判断，就容易误
判。 ”一位家属（ F9）提到，“当系统提示风险后，病房气氛会突然变得紧
张，原本只是发泄情绪、抱怨的话也会被重新理解，这既让我感到被重
视，但情绪也有些被放大了。 ”这说明，技术预警不仅影响专业判断，也
会反过来塑造服务对象对自身处境的理解方式。
这个例子不仅揭示了人工智能敏感度提高带来的好处， 也暴露出
社会工作者在早期阶段出现的算法依赖风险： 当预警被视为标准诊断
时，社工可能忽略语境、关系史与文化表达，从而把原本属于身体痛苦
的情绪性表达误读为心理危机，导致干预错位，甚至引发患者及家属不
必要的焦虑。
然而，这一风险正好说明，AI 的介入并不必然削弱社会工作者的判
断角色， 反而彰显了社会工作者在复杂伦理情境中对意义把握和判断
的必要性和重要性。 AI 虽可触发警觉，却难以理解具体语境，亦无法准
确辨识文化语义中的夸张表达、礼貌性否认或情绪宣泄等话语功能。 因
此，AI 的误报超越了单纯的技术发展局限，它从侧面启发社会工作者：
真正的伦理判断必须依赖社会工作者对情境、意义与关系的深度把握。
换言之，AI 的存在凸显了人类专业判断的重要性， 而人对智能系统的
过度依赖则暴露了“人类在环”机制所需的人类审慎判断与反思能力仍
有待培育和提升。 这一点表明，算法的敏感性并不会自动转化为更准确
的判断，反而可能因为脱离具体语境而加剧信息误读，放大决策偏差。
3. 将伦理嵌入流程：从个案协商到制度化共治机制
为应对这一风险，团队在未来的 AI 智能体开发中拟建立“人工复
核—伦理审查—人机协同”三道防线。 当 AI 在交互中捕捉到涉及死亡

· 124·