作者:潘少颖 来源:IT时报

11月25日,2023第六届上海交大-卫宁健康智慧医疗挑战赛全国总决赛圆满举办。经过近半年的筛选与角逐,最终19支优秀团队总决赛。上海理工大学的相队和来自上海交通大学的0x73b队分别摘得高校组和综合组桂冠。

上海交大-卫宁健康智慧医疗挑战赛至今已成功举办六届,是医疗健康领域高级别的人工智能技术场景赛事,旨在提供一个推发展的平台,广泛吸纳各大高校团队以及科研院所、初创型企业、医院等所有社会型单位的优秀团体参与赛事,共同探索AI和互联技术在医疗领域的应用模式、验证“AI+医疗健康”的落地价值,并促进项目的真正落地,为医疗带来更大的价值。

欧洲科学院院士、上海交通大学计算机系讲席教授过敏意表示,人工智能应用飞速发展,人工智能模型从一开始的监督学习到现在的无监督学习,导致了模型尺寸与算力需求的飞速增长。以ChatGPT为代表的大模型已然兴起,自发布以来,ChatGPT的影响取得了惊艳的效果,成为最快增长到1亿用户的应用,这反映了大模型应用已经走向大众化阶段。在医疗领域,由于大模型强大的知识存储和推理能力,在医疗这种知识密集型的场景中具有强大的应用潜力。

打开网易新闻 查看更多图片
欧洲科学院院士、上海交大计算机系讲席教授过敏意

然而,在大模型具体的部署过程当中也存在一些问题,由于大模型的高算力需求,无法本地化部署大模型,而往往采用云端部署的方式,这就不可避免地带来一些隐私安全问题。要兼顾大模型的高算力和隐私保护问题,可以从两条技术路线入手:第一,针对大模型高算力需求,研究明文计算轻量化技术,实现本地化部署;第二,针对云端部署场景,研究高效加密计算技术,使密文计算性能可接受。

但总的来说,单一的加密方案和AI算法优化空间极为有限。加密方法方面,现有方法把AI算法当作黑盒,无法利用算法本身的安全特性,计算开销极大;AI算法方面,AI算法本身存在很大的冗余性(稀疏特性、低精度特性等),存在很大的计算效率提升机会。

系统结构作为衔接二者的桥梁,需要全新的抽象、方法,以更加高效地支撑高安全、低资源需求的大模型服务。因此,未来高效、安全的大模型服务需要加密方法-AI算法-系统结构的联合设计与优化。

卫宁健康人工智能研发总监刘鸣谦在比赛现场带来分享,讲述了卫宁医疗大语言模型WiNGPT的探索与发展。

卫宁健康人工智能研发总监刘鸣谦

WiNGPT是基于通用模型的医疗垂直领域的大模型,截至目前,训练数据涉及6大类医学领域、29个医院科室,数据量约20G。通过将专业的医学知识、医疗数据融会贯通,既能实现医疗场景下的通用医学知识回答,也能精确地解决业务、产品、流程中存在的痛点交互问题,最终实现效率和质量双提升。

在刘鸣谦看来WiNGPT具有三个特征:一是“小而专”,是大模型上的“小模型”。WiNGPT根据医疗场景和高质量训练数据调教,精确满足各种业务需要;二是低成本交付。通过优化模型算法,基于CPU部署,经测目前生成效率已接近GPU;三是支持可定制的私有化部署。私有化部署保护医疗数据不出医院,避免数据泄露的同时,提供更高的系统稳定性和可靠性。

在实际部署的过程中,大语言模型应用存在“部署最后一公里”:技术问题:一方面,大语言模型内存受限,内存和时间复杂度都与输入序列的长度成平方;另一方面,计算资源难充分利用,GPU、CPU资源均没有充分利用;业务问题:院内部署场景复杂,数据保密性、安全性、实时性要求高,GPU更新换代快;模型升级GPU需跟随升级,医院硬件升级频率低。

为了解决以上部署问题,卫宁健康和英特尔一起共同进行了模型的优化,优化并发调度,提高CPU使用率,通过对Pytorch的进一步升级,提升深度学习框架的推理速度,并通过底层更优的硬件设备,提高硬件的使用效率。这些优化可以在报告生成的系统上看到明显的成果,基于WiNGPT的医院报告生成场景,目前覆盖了放射科全科100多个部位的检查,覆盖了CT、MR、普放等检查,基于大语言模型可以快速完成报告的生成和小结。

英特尔(中国)软件技术合作事业部高级技术经理杨正雷从创业的角度,在现场分享了如何做成一个有价值的产品,最后成为总体解决方案,并落地到实际的应用场景中去。

打开网易新闻 查看更多图片
英特尔(中国)软件技术合作事业部高级技术经理杨正雷

要想做到有价值的解决方案落地,最重要的就是思考能给客户带来什么样的价值。今年10月,英特尔与卫宁健康共同发布了英特尔CPU平台的WiNGPT的方案,从英特尔的角度,我们关注更多的是如何帮助客户在业务场景里实现落地,并且真正地解决医疗痛点、满足业务需求。

ChatGPT加速了AI在医疗领域的变革,从英特尔的角度来看,未来的焦点将集中在多重诊断上,会把在医疗领域图形图像类以及病理诊断类、阅读类有机结合起来,把AI做一个大的整合,通过大语言模型赋能多重诊断,更有效率地支撑起医疗领域的应用优势,打造并让大众去接受一个端到端的场景,让技术持续加持智慧医疗的发展。

总决赛结果

高校组获奖名单

非凡奖获奖团队:

上海理工大学相队:膝Ease-膝骨关节炎推拿机器人

膝骨关节炎是一种常见的老年退化性疾病,传统中医推拿疗法既存在经济价值,也更为有效,其中尤以“坐位调膝法”为最。团队致力于打造基于坐位调膝法的推拿机器人,以辅助医生在日常的工作中进行坐位调膝法的治疗。

前瞻奖获奖团队:

上海交通大学GPT健康咨询先锋队:基于GPT的智能健康咨询助手

上海交通大学三维全视野Ca诊断队:病理图像三维重建与分析-基于点云的病理图像三维重建

打开网易新闻 查看更多图片

精英奖获奖团队:

南昌大学香樟之叶队:基于模糊测试的医疗模型漏洞检测技术

上海交通大学新时代心理华佗队:医疗大模型与基于大数据的青少年抑郁风险发现-云上应用

上海健康医学院无辐消寿队:辐康宝-核医学科智能辐射监测领创者

苏州大学智慧守护健康队:基于SDFT-GAN的医学影像增强和分类

上海交通大学大数据小队:GPU/NPU 加速的大数据聚合分析

上海交通大学智慧健康导航团队:智慧医疗未来网,GPT编织新篇章

上海交通大学运动印记队:基于多模态神经网络的运动建议系统

上海理工大学纯净大队:基于增强现实的肾穿刺辅助导航系统

中南大学葡萄糖不太甜队:基于关键特征融合的糖尿病集成学习预测框架

综合组获奖名单

卓越奖获奖团队:

上海交通大学0x73b队:基于昇腾的神经网络智算方案

构建面向国产设备的医疗模型端到端的迁移和压缩工具,可以辅助将部署在服务器上的模型迁移到国产边缘设备上,从而更好的让模型在边缘设备上进行计算,实现了基于国产设备的低功耗、低时延、高性能的辅助诊断系统。

杰出奖获奖团队:

数智元宇人工智能科技有限公司数智元宇队:腔镜手术AI导航系统

同济大学附属上海市第四人民医院智慧老年队:智能糖尿病管理系统

优胜奖获奖团队:

北京灵猫动量科技有限公司灵猫动量队:基于AIGC下的虚拟心理医生在远程医疗问诊中的应用

上海市第四人民医院老年医学科智慧医疗老年医学组队:基于MEMS传感器的下肢姿态跟踪与跌倒检测系统

华东师范大学6G多层次算力网络课题组队:基于区块链的医疗数字孪生大数据安全共享及预测

嘉兴尚瑞电子科技有限公司医疗视觉成像:5G智慧医疗-医疗视觉,预见未来

打开网易新闻 查看更多图片