当前位置:产经频道首页 > 行业 > 正文

源于产业、服务产业,京东公布言犀大模型

将大模型能力迁移到产业领域,实现垂直行业的“智能涌现”,并非易事。高质量的行业知识作为稀缺要素,决定了大模型的“智商”。言犀AI开发计算平台沉淀了京东在零售、物流、健康、金融等行业多年积累的知识,通过算法工具集成到平台,并部署了京东技术团队开发出的100多种训练和推理优化工具,结合低代码应用平台,为客户提供从数据建设到模型应用的一站式服务。不到一周时间,用户即可完成从数据准备、模型训练到模型部署的全流程;之前需要10余人的科学家团队工作,现在只需要1-2个算法人员;通过平台模型加速工具优化,节约90%的推理成本。

此外,京东丰富的业务场景,可以为平台上的基础大模型提供具体的行业应用场景,促进入驻企业加速基于大模型的商业化落地。

在高性能HPC方面,言犀大模型开发计算平台可提供GPU、CPU、IPU等各类型算力资源,可以针对推理速度、推理成本以及模型大小不同的业务需求,提供定制化解决方案。同时,平台还能为入驻企业提供大模型开发应用的各种硬件资源的支持。

数字基础设施筑就大模型坚实底座

大模型训练与应用对数字基础设施提出了更高的要求,基于此,京东在会上展示了大模型数字基础设施全景图。

传统数据库面对大模型训练的图片、音频、视频等非结构化数据,显得捉襟见肘,此时,专门针对此类场景的向量数据库应运而生。京东从2019年开始自主研发向量数据库,目前,向量数据库Vearch已经实现大规模落地实践:平稳支撑京东百亿级向量数据高性能检索,延迟时长降低到毫秒级,降低60%存储成本降低和80%推理成本。与此同时,京东积极助力开源生态建设。作为白金捐赠人,Vearch已捐给中国首个开源软件基金会——开放原子基金会,助力国产数据库生态蓬勃发展。

为了应对大模型训练对AI算力的迫切需求,最新升级的混合多云操作系统云舰,通过创新的异构计算池化技术,实现GPU/NPU资源成本下降50%,全面支持多云多芯多活,助力企业渐进式完成国产化替代;最新版存储平台云海,单集群每秒读写性能提升5倍,达到行业领先的千万级,延迟时间低至百微秒,存算分离技术使成本降低30%;全新的软硬一体虚拟化引擎京刚,虚拟化损耗降至零,网络性能提升高达4倍,支持100Gb VPC 网络,云硬盘单实例性能突破百万IOPS。

京东曹鹏:数智供应链训练产业大模型,大模型依托供应链深入产业

产业智能时代的到来,依赖于整个行业的努力。京东将秉承开放的理念,与与合作伙伴一同跨越大模型与产业深度融合这一步,抵达产业智能。

(责任编辑:李劲)

热点推送

本周关注

MORE

    产业研究

    MORE