视频丨接入超300款AI大模型 国内最大大模型服务平台正式上线

国内最大的视频式上大模型服务平台昨天（8日）正式上线，由中国移动开发的丨接国内这个平台已接入并提供300余款国内主流AI大模型的服务与能力，是入超国内汇聚大模型数量最多的平台。

据了解，大大模该平台首创词元（Token）集约化运营模式，模型记者在现场看到，型服线平台能够自动分析用户需求，台正智能为任务匹配最优模型。视频式上通过“成本优先”“效果优先”“均衡优先”三种模式，丨接国内为用户动态筛选适配方案，入超以更低的大大模词元消耗、更高的模型执行效率完成工作。当模型出现超时、型服线限流或故障时，台正平台能自动实现秒级切换，视频式上确保业务连续不中断。

中国移动云能力中心智算产品总监 李莉：可能简单一点的就用一个小参数量但是很便宜的模型来回答，复杂的就会用参数量大的但是很聪明的模型来回答。在这个过程中精度是不会下降的。

目前，该平台实现单位词元成本降低30%左右，资源占用率减少50%以上，日均调用量超过千亿级。

据了解，今年以来，人工智能应用落地加速，词元调用量呈现出指数级增长，截至3月底，日均值已突破140万亿，和2024年底相比增长超千倍。

责任编辑：巩丽慧

很赞哦!（1）