中科院医疗大模型
项目描述:中科院与合肥市医院针对医疗合作需要开发一款医疗大模型,具有以下功能:医疗问诊、疾病护理、疾病膳食疗养功能、根据患者提出的问题进行合理回答,膳食疗养、方案制定、为数字人做基座模型。项目职责:1、基于知网论文、医学期刊、医学书籍进行数据清洗、去重、存贮到向量数据库,医院数据集加工生成qa对,并存贮到向量数据库中,增加真实知识检索和解决llm幻觉;2、基于业务场景进行算法框架方案定制及模型选型;3、基于qa数据集、通过llama-factory框架进行72B大模型fine-tuning(3*8A100);4、api接口增加self-rag自检node,进行question相似问题拓展、问题回答生成、判断文档相关性、答案与question是否存在幻觉,最终模型返回准确的结果。5、运用function_cell、agent实现了全国医院联系方式获取、病人居住到医院距离、交通方式的选择、某地点美食店铺信息、天气查询、头条新闻等、方便患者进行信息查询。6、基于本地ollama框架进行模型加速、并在openwebui进行llm部署;7、医生对模型数据的校验、及准确率抽查;8、基于数字人大模型接口书写及部署。业绩:实现了大模型从0-1项目落地、项目优化、模型加速,使大模型准确率达到97.3%;
浏览80
点赞
2024-10-17