医院应用 AI 的关键，不是能否生成看似专业的文字，而是输出是否在明确用途、数据权限和责任体系中。通用模型可能给出流畅但错误的内容，医疗场景又存在隐私、延误和人身风险，因此必须按风险分层。
适合谁与本文范围
本文面向考虑生成式 AI 的医院行政、信息、运营、患者服务和临床管理团队，重点讨论辅助性场景，不构成医疗或法律意见。诊断、治疗、医学影像、临床决策支持等专业产品，应依据所在地监管要求、产品用途和临床证据另行评估，不能套用普通办公试点标准。
三层场景分级
低风险：内部管理协同
包括会议纪要、非敏感公文初稿、培训提纲、设备或后勤工单分类、公开制度检索。即使不含患者信息，也应由责任部门审核事实与口径。
中风险：患者服务与教育辅助
包括预约流程说明、已批准健康教育资料改写、随访提醒话术草稿。系统只能依据批准材料，不对个人症状作判断；出现急症描述、用药问题、检查解释或投诉争议，应立即转专业人员。
高风险：诊疗与敏感决策
包括分诊优先级、诊断、处方、用药剂量、检查解读、预后判断和是否出院等。通用生成式 AI 不应独立执行。即使是专门医疗产品，也需明确批准用途、适用人群、临床验证、持续监测和最终责任。
六步治理框架
第一步，建立跨部门负责人，包括业务、信息安全、隐私或合规、医务与使用科室。先写清用途与禁止用途。第二步，做数据流图：输入来自哪里、是否含患者身份、发送到哪里、保存多久、谁可查看、是否用于训练。
第三步，按风险选择技术。能用公开资料完成，就不输入患者信息；能用去标识数据，就不使用完整病历；私有部署也不等于自动合规，仍需权限、漏洞管理、日志与供应链审查。
第四步，建立有效知识源。制度和宣教资料要标注发布部门、版本、生效日期与适用范围。回答附来源，不足时转人工。第五步，用临床与安全反例测试，包括症状含糊、药名相似、单位错误、儿童或孕产妇等特殊人群、急症信号和恶意提示。
第六步，小范围上线并持续监测。记录错误建议、漏转人工、越权访问、用户依赖和事件响应。发现重大风险可立即停用，不能以“模型平均准确率高”为由忽略少数严重错误。
示例：随访提醒草稿
可接受的助手根据科室批准模板，生成“复诊时间提醒、材料准备、医院联系方式”草稿，由医护人员确认后发送。它不根据病历自行调整药物，也不解释化验结果。
如果患者回复“服药后胸闷，是否停药”，系统应触发高风险规则，提示不要依赖自动回复，并转交相应专业渠道；是否给出急救提示应依据医院预先批准的流程，而不是临场生成。
数据安全要点
患者身份、病历、检验、影像和联系方式具有高度敏感性。账号应实名、按岗位授权，禁止共享；查询应限制到工作所需患者与字段；导出和复制受控；日志避免记录不必要正文，并设定保存期限。供应商评估还应覆盖数据存放、跨境、分包商、模型训练用途、删除机制、事件通知与退出迁移。
去标识化也不是简单删除姓名。时间、罕见病、地点等组合仍可能重新识别个人，应由专业人员评估。用于测试的合成数据也要检查是否意外包含真实记录。
人因风险
医护人员可能因回答流畅产生自动化偏见。界面应清楚标示 AI 内容、来源与不确定性，避免把“建议”设计成默认选项。培训要教会使用者核验和报告错误，也要防止为了节省时间绕过正式系统。患者应知道何时面对自动系统，以及如何获得人工帮助。
红线
- 不让通用模型独立诊断、处方、调整用药或决定诊疗优先级。
- 不把患者信息输入未经批准的个人账号或公共工具。
- 不以“已脱敏”代替重新识别风险评估和权限控制。
- 不隐藏 AI 参与，不把生成内容伪装成医师已确认意见。
- 不在缺少临床验证、事件响应和停用机制时扩大应用。
小结
医院 AI 应遵循“低风险先行、数据最小、来源可查、专业人员负责”。行政协同与受控宣教可以作为起点；越接近诊疗决策，验证和监管要求越高。行业方案与治理支持见解决方案，团队信息见关于我们。
常见问题
能用公有模型处理病历吗？
不能默认使用。需依据适用法律、医院制度和平台条款评估，落实最小必要、授权、去标识化、访问控制和留痕。
AI能给患者做诊断建议吗？
通用模型不应作为诊断主体。任何面向诊疗的系统都需满足相应监管、临床验证和专业人员监督要求。
医院最适合从哪里试点？
从不含患者敏感信息的行政文书、院内制度检索、培训资料和经审核的健康教育内容开始。