治理、风险与负责任使用

屏幕1：治理、风险与负责任使用

模块6介绍·4分钟

一个不当的使用案例可能会冻结整个组织的AI项目。

敏感数据上传至错误位置，一个不受信任的技能被授予广泛权限，关键时刻悄无声息的政策违规：任何一项都可能引发冻结，使每个团队失去已获得的效率提升。治理是确保采用安全推进的关键，它由实践者通过一次次决策来执行，而非依赖书架上的政策手册。

这就是本模块的框架：治理是实践者的技能。政策设定了边界，但你是否在当下决定这个使用案例、这个技能、这次上传是否合适，则由你来判断。AI流畅性框架中的两项能力主导这些决策。勤勉关乎所有权与验证，而授权则为判断一个使用案例是否合适提供了标准。

本模块结束时，你将能够：

• 1识别适当与不适当的使用案例。

• 2将数据敏感性、隐私及法规考量应用于Claude的使用。

• 3遵循组织的AI政策与治理标准。

• 4理解AI使用的伦理影响。

负责任使用是你每天做出的一系列判断。学会根据授权标准分类使用案例，像审查任何软件一样审查技能，根据数据敏感性使用正确的功能控制处理数据，将组织政策作为持续习惯应用，并在常规审查中评估输出的偏见与公平性。

我们构建了这门初级课程模块6：治理、风险与负责任使用，以帮助你利用Claude完成实际工作。请将其视为教育内容。它不构成法律、财务或其他专业建议，因此请将所学内容适应于你的具体情况。我们的产品和服务快速演进，某些内容可能包含错误或已过时；记得在Anthropic的网站或文档中核实。课程中使用的示例和场景多为说明性质且常为虚构。若课程材料提及某公司或产品，并不意味着Anthropic认可它们，它们认可Anthropic，或我们之间存在关联。同时请注意，你对Anthropic产品和服务的使用受我们的条款、政策和文档约束；若本课程内容与之冲突，以它们为准。

---

屏幕2：适当与不适当的使用案例

教学适当使用案例·10分钟

判断一个使用案例是否适当是一个结构化评估，而非直觉感受。

映射工作流程步骤的相同授权标准也筛选整个使用案例：可逆性、错误后果、人类创造力或同理心的需求，以及问责制。每次运行这些标准，将模糊的不安转化为可辩护的决定。

筛选的授权标准

标准

需提问的问题

可逆性

错误输出能否在造成伤害前被捕获并撤销？不可逆的后果大幅提高门槛。

错误后果

如果输出错误，代价是什么？更高的后果要求更多的人类控制或排除该使用案例。

人类创造力或同理心的需求

任务是否需要AI无法提供的判断、关系或关怀？无论能力如何，某些工作应保持人类主导。

问责制

谁对结果负责，且该问责能否在AI产生的结果上行使？

这四个标准不是一份清单，任一失败不会终止讨论。它们相互作用。一个任务可能低后果且可逆，但仍需人类审查。问责制不能转移给模型。为客户起草慰问信是低风险且完全可逆的，但关系元素意味着应由人负责。相反，一个任务可能高后果，但在有适当把关的情况下仍属适当：供决策参考的财务摘要具有后果性，但如果指定审阅人在使用前签字，问责与可逆性得以恢复。实用规则是运行所有四项，然后问哪一项在此特定使用案例中起决定性作用。决定性标准是如果改变它，将使使用案例在分类间移动。命名它是使你的分类对风险或合规审查员可辩护的关键。

三种分类

每个提议的使用案例归入以下三类之一，并附有记录的理由：

完全适当。可逆，低后果，无需特殊人类元素。正常审查下委托。

需人类审查的适当。AI辅助有用，但风险或问责要求人类把关。明确界定把关点。

不适当。后果、不可逆性或人类元素需求意味着AI不应执行此任务。阐明原因并指明必须负责的人类角色。

“需人类审查的适当”是人们最常出错的分类。通常，他们止步于标签，从未具体说明把关点。把关点不是“有人会检查”。明确的把关点确立三件事：谁审查（具有问责的角色，而非有空的人），他们验证什么（审查存在的具体风险，如事实准确性、公平性或政策合规性），以及审查在工作流程中的何时进行（在输出使用前，而非之后）。“经理在联系任何候选人前审查短名单是否存在不利影响模式”是一个明确的把关点。“我们将保持人类在循环中”则不是。如果你无法以这种谁/什么/何时形式陈述把关点，使用案例尚未准备好运行。

实例演练：使用案例组合

点击每个案例查看决定及其理由。

阐明使用案例为何未通过测试，以及必须保留的人类角色，是交付成果。“感觉有风险”无法传递；“不可逆后果加上不可转移的问责”则可以。

---

屏幕3：技能信任与功能级风险

教学技能信任与功能风险·8分钟

技能是软件。它可以访问你在会话期间给予Claude的权限，并可以通过代码执行采取行动。因此，来自不受信任来源的技能是一个真实风险，而应对该风险的实用方法是在启用前进行来源和权限检查。

为何不受信任的技能是风险

因为技能运行程序，并能触及会话中可用的数据和工具，来自未知来源的技能可能误处理数据或采取意外行动。“技能是一个黑箱”是常见的组织担忧，答案不是盲目信任或全面禁止；而是可重复的信任评估。

启用前的信任评估

翻转每个检查项查看需提问的问题。

来源

谁发布了这个技能？Anthropic提供和内部批准的技能是低风险的起点；未知的第三方技能需要更多审查。

触及范围

技能不请求权限；技能继承运行会话已有的访问权限。询问：在运行会话中，此技能能触及什么，这种暴露是否与任务成比例？

启用前审核捆绑包内容（指令、依赖项、捆绑文件）；一个格式化技能的指令远超出格式化范围，是一个红旗。

适当性

这个技能是否适合任务，还是它提供的功能超出了工作需求？

来源并非简单的信任与否开关。最困难的情况是由你组织内部其他团队构建的技能。“内部”感觉安全，但这并不意味着已审核：构建它的团队可能为了方便授予了广泛权限，或基于旧政策构建。对待来自团队外部的内部技能，就像对待姐妹部门的软件一样，与发布者确认它访问了什么及原因，并检查其权限是否仍符合当前政策，然后再将其应用于你的数据。信任问题是“我知道它做什么，且其访问权限与工作匹配吗？”

未通过信任检查并不总是意味着“永不使用”。它意味着不要仅凭你的权限启用。三种结果是：

信任检查的三种结果

启用。来源、权限和适当性均清晰。

上报。技能有用但来源未知或权限看起来广泛，因此将其路由给你的管理员或安全功能进行审查。

拒绝。权限明显不成比例或来源无法确定，且任何审查都无法改变这一点。

判断是识别哪一种适用。

实例演练：审查两个技能

Anthropic提供的文档格式化器。来源可信，权限与任务（文档处理）匹配，适合需求。启用它。

来自未知发布者的第三方“分析增强器”，请求广泛数据访问。未知来源，所述目的的权限不成比例。未经组织审查，不要启用。像对待任何未审核的安装软件一样对待它。

规则普遍化：评估技能的来源和权限，就像你即将在工作机器上安装的任何软件一样。

技能是功能级风险的最尖锐版本，但同样的比例原则适用于你启用的任何能力。在启用可以读取或操作你数据的功能、连接器、工具或集成之前，问同样三个问题：谁提供它，它访问什么，这种访问是否与你所需成比例。原则是最小权限：授予完成任务所需的最窄访问权限，并在任务变化时重新审视。

---

屏幕4：数据敏感性、隐私与功能控制

教学数据敏感性与控制·12分钟

在任何数据进入任何功能之前，你应了解其敏感性。

数据分类是防止泄露的习惯，而特定功能的控制，如隐身模式、内存管理和沙箱意识，是当持久性或处理不恰当时你采取行动的方式。

上传前分类

将数据分为安全使用、需先审查和完全排除三类。公开和内部低敏感性材料通常没问题；受监管、机密或个人数据在接近任何功能前需要根据政策进行审慎检查。当你不确定时，安全默认是在上传前询问。大多数团队需要能在几秒内应用的三个层级：

已发布材料、匿名或聚合数据，或已批准广泛共享的内部文档。

不打算离开公司的内部文档、包含姓名或联系信息的任何内容，或与尚未宣布的交易或产品相关的草稿材料。

受监管数据（健康、财务、政府）、凭证和秘密，或受第三方保密义务约束的任何内容。

当你在两个层级间不确定时，将数据视为更敏感的一类，直到你能确认。

脱敏与匿名化

当任务实质不需要敏感细节时，移除它们。在上传前删除姓名、账号或标识符，让你在不暴露数据的情况下获得分析价值。养成这一习惯可防止最常见的意外泄露形式。当任务不依赖标识符时，脱敏有效。询问客户名单中的趋势不需要客户姓名；用“客户1，客户2”替换它们，分析所需的信息不会丢失。

部分脱敏。删除姓名但留下账号、罕见职位或特定日期仍可能识别某人，尤其是在小群体中。剥离所有可能导致识别的字段。

破坏任务的脱敏。如果工作确实需要敏感细节，脱敏不是答案。最好确认该数据的批准路径或完全保留。脱敏是敏感性与必要性不重叠情况下的工具；它不是使任何数据安全的方法。

特定功能控制

翻转每个控制项查看其作用及何时使用。

代码执行沙箱

代码在沙箱环境中运行，上传的文件也在那里处理。

运行分析前审查上传内容。

内存持久性

内存跨会话携带信息。

对于敏感工作，这种持久性可能正是你不想要的。

隐身模式

使会话不进入聊天历史和内存。隐身聊天仍遵循组织的数据保留政策，并可能出现在组织数据导出中。内存排除和数据保留是独立的控制。

用于不应出现在历史或内存中的敏感对话或机密输入。

组织级内存控制

团队计划没有组织级内存功能控制；在企业版中，所有者和主要所有者持有组织范围的内存控制，包括为组织禁用内存。

了解你所在的计划及谁控制设置。在Claude帮助中心内存文章（support. claude. com）核实当前行为。

控制只有在正确时刻选择正确控制时才有效。习惯是：先分类，然后选择匹配的控制。绿色数据无需特殊控制。不应跨会话持久的黄色数据是隐身模式的案例，机密但不受监管，你希望现在进行分析而不进入内存或聊天历史（组织的基础数据保留政策仍适用）。红色数据在上传任何内容前需要确认批准的入口点，无论内存设置如何。常见错误是使用隐身模式并假设它使敏感数据安全。

隐身控制是否记住某事；它不确认数据是否在此处被允许。对于受监管数据，第二个问题优先。

跨入口点的意识，简单来说

不同的claude. ai入口点可能根据组织配置Claude的方式处理数据保留不同。你不需要记住技术细节；你需要养成习惯，在不确定给定入口点时，在上传前询问。简单规则：先了解数据的敏感性，然后将功能及其控制与之匹配。

实例演练：四个数据决策

用于趋势分析的匿名调查数据。绿色。安全上传；使用代码执行进行验证计数。无个人标识符存在。

用于摘要的机密并购文档。黄色。需先根据政策审查，并使用隐身模式，使其不进入内存或聊天历史（仍受组织数据保留约束）。如果政策禁止该入口点，则保留。

用于清理的客户PII电子表格。在上传前脱敏或匿名化标识符，或完全保留并与管理员确认批准路径。

用于医疗工作流程摘要的患者记录。这是红色，且隐身模式无法解决。数据受监管，因此第一个问题是该入口点是否已批准用于受保护的健康信息。如果你的组织尚未确认该数据的批准、合规路径，正确的行动是停止并上报给管理员。对于受监管数据，“这里是否允许”在“这里如何处理”之前解决。

---

屏幕5：组织政策与勤勉习惯

教学组织政策·8分钟

仅在有人监督时遵循的政策不是治理。

政策所言与人们所为之间的差距，正是风险所在。勤勉是持续应用治理框架的习惯，也是审计实际使用情况以缩小差距的习惯。

一致应用治理

治理合规是一个持续习惯，而非一次性确认。标准是在常规、低可见性决策上应用框架，而不仅仅是在明显的高风险决策上，因为常规决策是漂移悄然积累的地方。

根据政策审计使用情况

定期将团队使用或计划使用Claude的情况与政策要求进行比较。当它们分歧时，你发现了需要关闭的勤勉差距：不应上传的数据类型被上传，审查步骤被跳过，技能未经审查被启用。发现并关闭这些差距是重要工作。

保持最新

政策和能力都在演变。上季度合规的做法可能在政策更新或新功能后不再合规。保持两者的最新是习惯的一部分，因此你的判断与工具和规则同步。

实例演练：小型使用审计

团队负责人审查团队一个月的Claude使用情况，发现三个差距：营销人员将未发布的产品规格上传至非批准入口点，技能未经来源检查被启用，以及客户报告在截止日期压力下两次跳过其必需的人类审查把关点。

无一恶意；皆为漂移。修复措施是习惯层面的：提醒批准入口点，项目设置中添加技能审查步骤，以及客户交付物上不可协商的审查把关点。审计将无形风险转化为三项可关闭的行动。

---

屏幕6：伦理影响：偏见、公平、透明

教学伦理影响·8分钟

伦理风险不会自我宣告；它隐藏在普通输出中。

一个悄然偏袒某一群体的摘要，基于偏见框架构建的推荐，AI辅助文档呈现为完全人类撰写：这些都是具有伦理重量的常规输出。评估偏见、公平性和透明度应纳入常规审查，而非单独的伦理练习。

识别偏见与公平风险

AI辅助的工作产品可能携带来自提示、框架或语言生成基础模式的偏见。在面向人的工作中，招聘、评估、特定群体的沟通，检查输出是否公平对待人们，以及框架是否倾斜了结果。风险最高的是对个人影响最大的地方。

透明度与披露

知道何时披露AI辅助。某些背景和某些组织政策要求披露；其他则将其视为常规工具。义务取决于环境和受众，当不确定时，负责任的默认是披露而非隐瞒。

推理模糊案例

许多伦理问题没有规则能干净利落地解决。结构化方法有帮助：命名受影响者，可能出错的地方，公平结果的样子，以及情况所需的披露。推理并记录推理，是当政策未给出直接答案时的专业标准。

结构化推理处理大多数模糊案例，但某些情况需要的不仅仅是个人判断。如果受影响群体庞大，潜在伤害重大，或伦理问题触及团队无权解决的领域，正确的做法是上报而非独自决定。组织的AI治理或伦理功能正是为这些情况而存在。带着记录推理上报问题比带来裁决更有用：它显示你应用了框架，识别了其耗尽之处，并为正确的审查员标记了差距。

实例演练：一个模糊案例

经理使用Claude从其笔记中起草绩效评估摘要。这合适吗？推理过程：受影响的是员工；风险是生成的措辞在评估中引入不公平或不一致的语调；公平结果要求经理验证每个摘要反映实际笔记并应用一致标准；且背景可能要求披露AI辅助了起草。

结论是需人类审查和公平检查的适当，而非简单的肯定或否定。推理，而非仅裁决，使决策可辩护。

---

屏幕7：模块6测验：治理与负责任使用

测验模块6·5分钟

五个情景式问题，强调判断。每个呈现一个情境；选择最佳应用模块治理框架的响应。大约五分钟。

---

屏幕8：关键要点

模块6关键要点·5分钟

贯穿本模块的五点：

治理是实践者的技能。

负责任使用通过一次次决策由你执行，而非政策手册。

使用授权标准筛选使用案例。

可逆性、后果、人类元素和问责制将使用案例分类为适当、需审查的适当或不适当。

技能是软件。

在启用前评估来源和权限，就像对待任何安装的软件一样。

在数据进入功能前了解其敏感性。

先分类，然后使用隐身模式、内存控制和脱敏来匹配处理方式与敏感性。

伦理风险隐藏在普通输出中。

作为常规审查的一部分，评估偏见、公平性和披露，并推理模糊案例。

所有产品行为描述基于截至2026年6月的claude. ai功能。功能可用性和行为应在发布时根据Anthropic当前文档核实：

• AI流畅性框架：勤勉与授权能力

• Claude帮助中心：技能信任、内存、隐身模式、代码执行数据处理，support. claude. com

• 代码执行沙箱出口和文件处理细节：在完成第4课之前确认当前行为

• 按入口点的数据保留及任何合规范围语言（HIPAA、FedRAMP、ZDR）：在完成前上报Anthropic账户团队确认

---

屏幕9：恭喜！你已成功完成本模块。

模块完成初级路径·2分钟

你现在可以将使用案例、数据、政策和伦理判断应用于任何Claude部署。负责任地治理，Claude将保持在组织要求的边界内。

M1：产品与模型选择

为任何给定任务选择正确的入口点、模型和功能。

M2：提示构建

构建结构化提示并适应任务类型。

M3：输出评估

验证输出并知道何时人类审查不可协商。

M4：工作流程集成

根据授权标准映射工作流程并安全地重新设计。

M5：配置

配置和维护项目、指令和知识。

M6：治理

负责任地应用使用案例、数据、政策和伦理判断。

M7：故障排除

诊断表现不佳并在结果未达预期时优化工作流程。

M8：课程总结与下一步

回顾旅程，准备考试，并识别向开发者和架构师轨道升级的边界。

模块6完成。

<! -- 提取9个屏幕，23446字符 -->