容天汇海基于昇腾推出AI-Station知识问答一体机,提升行业知识获取利用效率

2024-06-20
来源:信阳日报网    

  方案背景

  在当前快速发展的智能化时代,AI已成为推动各行各业变革的核心力量。尤其是在知识问答领域,AI技术的进步极大地提升了信息获取的效率与准确性,满足了人们对于快速、精准知识服务的迫切需求。信息时代的快速发展,行业知识增长迅速,传统的知识管理方式已经难以满足行业知识的快速获取和利用。容天汇海携手昇腾推出AI-Station知识问答一体机具备高效、准确地获取和利用行业知识的能力,加速行业智能化升级

  图片 1.png

  容天汇海&昇腾,打造行业知识问答一站式解决方案

  图片 2.png

  图表 1容天AI-Station知识问答一体机

  容天AI-Station知识问答一体机搭载4张昇腾Atlas 300I DUO高性能推理卡提供极致算力,全面支持6B~34B@FP16主流大模型,具备科研级、应用级快速响应能力。同时,集成容天OMNISKY Think Tank(OTT)软件,该软件主要使用昇腾MindIE推理引擎高效的大模型推理以及推理服务化功能,可兼容TGI/VLLM等第三方框架API,通过内置的大模型加速库,释放硬件极致算力,为OTT软件提供坚实的算力基座。通过多种前沿加速技术,发挥大模型的极致性能,在专业问答、语言理解、常识推理和阅读理解等方面具备优秀的实战能力。

  容天行业知识问答一站式解决方案根据客户所在行业,建立相关行业的专业知识库,内置知识库微调、混合搜索引擎、自动数据预处理、工作流编排等前沿技术,一键部署应用场景,快速上手,助力客户高效构建专属的AI知识问答助手。

图片 3.png

  图表 2容天AI-Station知识问答界面

  目前该方案已完成超过20个企事业单位及高校部署。通过集成RAG技术,支持Prompt工程,快速构建个性化知识库,问答准确率达95%以上

  ● 医疗领域:容天AI-Station知识问答一体机助力提升医疗数据治理、分析;优化诊疗体验,推动智慧医院智能化转型。目前已在各省重点医院部署。

  ● 教育领域:容天AI-Station知识问答一体机围绕算力供给为教育智能化提供最强算力底座,助力缩小“数字鸿沟”,提升教育公平与质量。目前已在清华大学、四川大学等各重点高校部署。

  ● 政府单位:容天AI-Station知识问答一体机结合数字政企总体建设要求,面向政务、企业信息化应用,构建数字政企数字化支撑体系,促进数智化转型。目前已在各省部委进行部署。

  ● IT领域容天AI-Station知识问答一体机结合轻量级大模型移动应用,准确专业的录入IT知识,助力开发者快速学习、增强IT行业知识。目前已在多个高新IT企业部署。

  结语

  北京容天汇海科技有限公司是昇腾重要的APN合作伙伴,双方将携手致力于为各行业提供软硬一体化、技术支持完善的AI场景化解决方案。未来,容天汇海也将继续深化与昇腾的合作,共同基于智算和AI技术的前沿发展,推动多模态大模型产业的落地应用,并致力于释放极致的算力,以满足不断增长的人工智能需求,推动产业的持续创新和进步。