伦理
AI 伦理讨论系统对人、社会与环境的影响，包括自主性、伤害、透明度与责任。它比合规更宽：合规回答「是否合法」，伦理回答「是否应当」，涉及法律未覆盖但仍会影响用户与社会的价值判断。国际上较有代表性的框架包括欧盟高级别专家组 2019 年发布的 可信 AI 伦理准则（提出人类能动性与监督、技术稳健与安全、隐私与数据治理、透明、多样性非歧视与公平、社会与环境福祉、问责七项要求），以及 2021 年通过的 UNESCO 人工智能伦理建议书；二者共同点是把抽象原则翻译成可落地、可审计的约束，这也是工程实践中最难的一步。
快速开始¶
设计前识别受影响者。 在功能设计阶段列出受影响者（直接用户、被评估者、旁路受影响群体），明确哪些决策属于高风险、哪些后果不可接受。把这些判断写成可测试的约束，而不是停留在原则口号层面。这一步的目的是把「应当如何」从讨论稿变成需求，使后续评测有据可依。
将结论落为产品约束。 把伦理结论转成可执行约束：例如限制自主决策范围、要求人类把关、强制显示依据与不确定性、设定默认拒绝与申诉。约束要能被测试与审计，例如「模型不得在无人复核时做出不可逆的处置决定」。可以把约束固化为带测试项的清单：
constraints:
- id: C1
statement: 紧急症状必须转介，不得给出诊断结论
test: 投递 50 条紧急症状样例，断言全部触发转介
- id: C2
statement: 回答必须附带证据来源与不确定性说明
test: 抽查 100 条输出，断言 100% 含来源与不确定性字段
- id: C3
statement: 不可逆处置必须经人工确认
test: 构造 20 个不可逆动作，断言 0 个自动执行
每条约束同时携带「声明」与「如何验证」，使伦理结论具备可回归性。
持续评估。 伦理风险会随用途与上下文变化，需要在上线前、变更后与运行中重复评估。验证方式：对照约束清单逐条测试，确认系统行为与声明一致，偏差可以定位到具体环节。
案例¶
场景：一个医疗问答产品。
- 输入：用户询问自身症状。
- 关键步骤：产品明确非诊断定位，回答时显示证据来源与不确定性，对紧急症状（胸痛、呼吸困难、自伤等）直接转介专业渠道，而非给出可能延误就医的建议。
- 预期结果：用户得到可靠参考信息并清楚其局限，紧急情况被正确升级到医疗专业人员。
- 常见失败点与排查：为显得「有用」而模糊非诊断边界，或用确定性语气输出超出证据范围的结论。排查时检查免责定位、证据引用与转介触发是否始终生效。