阿里云百炼专属版再升级 支持政企客户安全快速开发大模型
9月19日，在2024云栖大会上，阿里云正式发布百炼专属版2.0，可基于公共云VPC和专有云部署，支持图表、公式、图片、音视频等多模态、非结构数据的解析，帮助政企客户安全快速地开发大模型。
当大模型引发新一轮AI创新浪潮后，阿里云于2023年10月推出了百炼平台。该平台集成了国内外主流优质大模型，提供模型选型、微调训练、安全套件、模型部署等服务和全链路的应用开发工具，为用户简化了底层算力部署、模型预训练、工具开发等复杂工作。
但是，政企市场面临一系列大模型落地“难题”：一方面，政企业务的独特性、敏感性，对大模型开发环境有特殊要求；另一方面，政企市场历史悠久，存在大量图表、公式等复杂资料，如何将这些资料处理成大模型能够理解的数据，成为政企训练大模型、打造智能体的关键挑战。
为此，阿里云于2024年推出百炼专属版，是为政企客户构建的一站式大模型及智能体服务平台，提供从基础模型推理服务到复杂模型定制化训练、行业智能体搭建的全方位服务，实现AI能力的快速接入与应用。
2024云栖大会，百炼专属版再升级，将提供以下能力：
在底层算力上，兼容“公共云VPC”和“专有云”环境，并已嵌入阿里云“飞天企业版”云平台；支持多芯异构的算力调度，支持多租户模式下的算力、模型、数据隔离与共享。
在大模型训推方面，支持高性能分布式训练，训练吞吐率提升20%；基于软硬协同的推理加速，将精度无损量化提升至0.5%，推理速度提升3倍以上。
在模型方面，预置通义7B到72B多尺寸大语言基础模型及多模态大模型，同时兼容主流模型框架、支持三方大模型自定义接入。
在模型服务方面，支持图表、公式、图片、音视频，以及大文件和巨量文件的解析；基于平台丰富的工具和插件，开发者可通过“拖拉拽”快速搭建智能体。
目前，基于百炼专属版打造的智能体已在政务、电力、医药研发、科学研究等多个领域落地。知名药企阿斯利康基于百炼专属版以及通义千问搭建的医药智能体，可对药物不良反应进行自动分析和总结，将科研人员从繁琐的文献阅读、筛选、撰写工作中解放出来，提升药物安全把控的效率和准确度。阿斯利康的药物安全把控效率已提升300%，准确率已从90%提升至95%。
阿里云智能副总裁、解决方案研发部总经理曾震宇表示，行业大模型正在千行百业加速落地。相信大模型一定能够助力行业智能化的发展，也希望百炼专属版能够与合作伙伴一起，为行业创新打造“好用”、“易用”的智能助手。
免责声明：本文章由会员“极目新闻”发布如果文章侵权，请联系我们处理，本站仅提供信息存储空间服务如因作品内容、版权和其他问题请于本站联系