古代断案，最怕一句「例当如此」堵住所有辩解。今天换成「系统判定」，听起来更科学，若没有解释和申诉，毛病其实相去不远。
算法已经进入招聘筛选、信用评估、内容推荐和公共服务分流。它能在短时间处理大量信息，也能保持规则的一致性。但一致不等于公正。训练数据带有旧偏差，输入信息不完整，代理指标选错，系统就会稳定地重复错误。
联合国教科文组织２０２１年通过人工智能伦理建议书，强调人权、透明、公平、问责以及伦理影响评估。国际文件只能提供原则，真正保护普通人的，是原则如何落进每一次具体决定。
「系统说了」不是理由
一个决定如果影响工作、贷款、教育或基本服务，当事人至少应该知道：哪些信息被使用，主要规则是什么，如何纠正错误数据，谁对最终结果负责。商业秘密可以保护，责任不能藏进商业秘密里。
算法常用代理指标。想判断工作稳定性，可能看履历间隔；想判断风险，可能看地区、设备或行为模式。代理指标与目标有关，却不等同于目标。它们像旧时代凭衣着断身份，速度很快，误伤也可能很快。
更麻烦的是，人会迷信机器。工作人员看到系统给出红色提示，往往不愿推翻，怕承担责任。于是「人类复核」只剩一次确认点击。真正的复核应允许查看证据、提出相反理由，并留下谁作出最终决定的记录。
申诉不是系统失败，而是系统的一部分
再好的规则也会遇到例外。姓名相同、地址变更、数据录错、特殊经历，都可能让自动判断偏离事实。申诉机制不是承认技术无用，而是承认现实比模型复杂。
一扇有效的申诉门，要找得到、说得懂、等得起。把入口埋在十层菜单里，不叫申诉；只回复模板，不叫复核；处理几个月后结果早已无法挽回，也不叫救济。程序正义的价值，就在事情还来得及纠正时提供机会。
历史上的法治进步，很大一部分是在限制「方便的权力」。搜查方便、拘押方便、直接定罪也方便，但文明社会宁可多走程序，因为错误的代价由具体的人承担。算法提高效率，并没有改变这个道理。
先问错误落在谁身上
开发系统时，不能只算平均准确率。一个模型总体准确九成，若剩下一成错误集中落在某类人身上，公平问题仍然严重。应分别测试不同群体、边缘情况和数据缺失情形，并持续监测上线后的变化。
还要区分可逆决定与不可逆决定。推荐一首歌错了，代价很小；拒绝一次关键服务，代价很大。风险越高，人类复核、解释和审计就应越严格。不能用同一套「自动化优先」覆盖所有场景。
我国数字化应用广、场景丰富，完全有条件把效率与权益保护一起做好。真正成熟的技术治理，不是逢算法必疑，也不是见自动化就信，而是对收益和风险使用同一套证据尺度。
古人说听讼断狱要察情理。今天数据更多、工具更快，反而更不能忘记：规则面对的不是一行记录，而是一个会被结果改变生活的人。
算法可以先说话，但不能成为最后一个说话的人。