随着数字生态快速演进，人工智能已在各行业中得到广泛应用，医疗行业作为典型应用场景，正逐步引入AI大模型等技术，在临床辅助诊疗等方面取得了显著进展。在AI带来便捷高效的同时，如何确保其安全性？江苏医疗健康行业又作出了哪些努力，取得了哪些经验成果？7月24日，江苏省“人工智能+医疗健康”系列主题沙龙在徐州召开，会议聚焦筑牢医疗健康AI防线主题，来自省内医院、高校、科创企业等单位的专家和嘉宾分别围绕数据安全体系构建、人工智能安全管理、安全漏洞防范化解等各个层面分享了经验见解，深入交流探讨并总结了医疗健康领域AI应用安全管理的“江苏经验”。
“从会议分享交流的经验成果来看，江苏在AI医疗领域应用以及防范AI所带来的风险方面，是走在了全国的前列。”此次会议的主持人，东南大学二级教授、博士研究生导师，江苏省计算机网络技术重点实验室主任曹玖新在接受采访时总结说，医疗领域在拥抱AI技术的同时，必须建立覆盖数据与模型的全流程管控体系，江苏的实践可以为全国医疗行业提供参考范本。在曹玖新看来，AI赋能医疗是十分必要的，人工智能具备“不知疲倦”的特性，能极大缩短人工处理复杂任务如查看大量病理切片的时间，解决医生高强度工作下的疲劳问题。此外，通过AI模型还能够发现人类医生可能忽略的疾病线索，为医生判断病情提供重要参考，具有极高的实用价值。在AI医疗应用前景广阔的同时，也带来了区别于传统信息技术的安全考验。他表示，此次会上专家们分享了在AI场景下的全流程安全管控方案，涵盖数据分级、数据隐私保护等技术手段，为行业提供了重要启发，并且从这些经验成果来看，江苏在AI应用及防范AI风险方面，无论是理念、技术还是成熟度，均走在全国前列，处于较为先进的水平。
徐州医科大学附属医院副院长杨煜认为，“AI+医疗”领域的安全与创新绝非“二选一”关系，而是以“同步谋划、同步建设”为原则，确保AI技术能在严密防护下稳定可靠地服务于临床，惠及民众健康。他介绍，徐医附院在人工智能医疗应用中，一直坚持将安全措施与应用开发同步进行谋划、建设及评测。通过数据最小化采集、分级分类管理及全流程授权，结合大模型上线检测、运行监测及高风险内容人工审核机制，确保技术应用安全稳定可控。在积极拥抱AI技术的同时，做到创新与安全同行并重。
苏州大学附属第一医院信息处副处长程思民也表示，医院在推进AI应用的过程中，同步构建了数据安全底座、过程监管及迭代反馈三大防控机制。通过夯实数据底座，确保来源准确，通过加强过程监管，明确人机协同边界，通过建立持续迭代反馈机制，针对前期AI应用场景建设相对分散的问题，完善顶层技术应用规划，最终建立高质量数据集全流程管理，实现数据、模型及应用的安全可靠运行。
江苏深信服智能科技有限公司副总经理陈元春介绍，AI本身就是数字安全防护的利器，他以当下流行的AI智能体“数字员工”举例说，为实现智能体的安全上线与运行，企业构建了类似人员入职管理的四步防护流程，包括能力评估与“入职体检”、操作空间划定与“工位分配”、精细化权限划分、全流程行为监测与“绩效评估”，从而对“数字员工”进行全程管控和及时精准干预，让智能体“听话又能干”。江苏天创科技有限公司副总经理徐昊介绍的做法也有异曲同工之妙，他表示，企业研发了涵盖数字资产梳理与风险预警、自动化快速响应、溯源分析与应急验证在内的全流程管控方案，并通过周密的技术攻防演练，确保系统能够“坚守城池”。
欢迎来到