EAIP应用在不同领域的AI行业场景,通过EAIP的转换为高校的老师和学生提供行业的场景,提供行业场景案例,同时也支持院校教师进行科研项目、职业大赛,创新创业等活动。真正做到了从开发套件升级成软硬件一体化的智能创新平台。
OPEN AI LAB教育事业部总经理李骅
采访报道 / 中教全媒体 张晓蒙
OPEN AI LAB(开放智能)是2016年在上海成立的专注边缘智能计算及应用的高科技企业。他们提供边缘AI计算框架与场景化能力生产力工具,简化应用部署,致力于打造中国最易用的人工智能边缘开发部署平台。其自主研发的Tengine系统可实现从芯片到场景的全栈打通,从而实现赋能各行业,助力行业发展。目前产品覆盖智能制造、智能车载、公共安全、智能零售、智慧农牧、消费电子、智能家居等领域。
近年来,边缘侧的需求呈井喷式爆发。各个行业物联网设备逐渐变多,边缘计算行业发展迅速。AI算法运营从原来强调算法、算例、数据,到现在逐渐从云端下沉到边缘端。基于市场变化,
从2016年就开始专注边缘计算的OPEN AI LAB,不断深耕边缘计算AI(人工智能)开发平台,推出了国内自主的边缘AI计算框架Tengine Framework和边云自动化部署平台Tengine MLOps及一系列满足各类场景需求的生产工具,简化应用部署,致力于打造中国最易用的人工智能边缘开发部署平台,通过赋能帮助企业完成数字化转型和智能化升级。
在边缘计算应用方面,OPEN AI LAB拥有独特的赋能之道。OPEN AI LAB开放智能机器(上海)有限公司教育事业部总经理李骅介绍:“公司研发的边缘AI计算的框架——Tengine Framework,聚焦在边缘计算部署的痛点,使框架向下可以兼容所有的国内外主流芯片,向上可以支撑所有主流的训练框架以及一些网络模型。就像安卓可以支撑各种不同的品牌手机一样,使得上层的应用程序以及底层的应用,实现了高度的适配。CPU、NPU算法上的兼容都是整个Tengine所起到的作用。所谓的边缘自动化部署平台是底层把所有的芯片、算法、框架全部适配完毕后,使边缘自动化部署平台可以更好的在应用层做自动化工具,帮助客户实现AI的自动化部署的全流程的平台。全流程包括:数据的采集、清洗、模型的训练到量化优化再到整个边缘部署的开发,最终实现边缘部署自动下发。公司希望有更多的零人工智能基础的企业,通过操作鼠标就能实现场景+AI的智能落地。大幅度降低开发者的门槛,也就是最终用户们不论是通过何种芯片、模型框架,只要企业能够提供一定场景的数据,就可以通过平台,给客户提供自动化训练,最终一键部署应用到各个场景中。”
何为零门槛?从李骅的回答中得知,零门槛首先要适配于各种平台,其次通过自动化训练的方式达到一系列应用效果,以低代码无代码方式可以使开发门槛降低,使用、维护的技术能力降低,同时可以优化、加速、精准的赋能各个行业。
多种云端训练框架及算法模型对海量边缘AI芯片无法直接适配,导致国内应用规模化落地很难,Tengine的出现完美的解决的了这一问题。它成为了实现从芯片到场景全栈打通的重要通道,这也足以见得它的研发难度之大。李骅介绍:“Tengine是多训练框架、多模型、多芯片的平台。不同的芯片拥有不同的应用场景和不同的训练框架,这都需要逐个去适配和攻破,并且需要大量的技术型攻破。”
对于“云边端一体化”李骅也给出了不同于传统的思考和定义,他说:“云边端一体化是构建一个行业场景,从数据采集、数据标注、模型训练、模型转换到最终部署,我们称之为全栈式AI技术应用。公司的核心能力是从边缘侧的Tengine和端边云的协同,我们是通过云端的训练到一些边缘计算的设备到边缘计算的平台再到应用,这是我们所理解的“云边端一体化”。而这样的优势就是使整个企业的部署方式灵活,可提高开发效率并且兼容更多的边端架构。而对于企业来说最本质的优势就是降本增效,可以降低部署运营和整体开发的成本,而且计算的速度和准度也都有所提高。”
EAIDK(嵌入式人工智能开发者套件)是OPEN AI LAB基于Tengine系统开发的一款产品,李骅说:“该产品面向的是人工智能的教育市场,主要面向泛人工智能专业的教师和学生。院校开设人工智能相关专业,通过这样的工具帮助学生去学习人工智能相关的技能,对于老师而言侧重于做一些科研和创新。对于行业开发人员,可以帮助我们优化算法和案例。与此同时,自己也可以得到AI能力的创新和提升。”2020年底,OPEN AI LAB将EAIDK升级为EAIP(边缘智能创新平台),并将其扩充成“云边端一体化”的人才培养解决方案体系,把以前的套件和云端训练框架模型到端侧整体的部署全部打通,基于基础Tengine Framework AI计算框架与Tengine MLOps边云自动化部署,从云端训练到端侧整体部署被称之为全栈式人工智能人才培养平台。
EAIP应用在不同领域的AI行业场景,通过EAIP的转换为高校的老师和学生提供行业的场景,提供行业场景案例,同时也支持院校教师进行科研项目、职业大赛,创新创业等活动。真正做到了从开发套件升级成软硬件一体化的智能创新平台。
在“产学研”方面,EAIP同样在积极推动。OPEN AI LAB作为一家产业公司,在科研创新方面,其EAIP的平台可以为高校提供全面学术科研的平台,例如教师的横向课题、创新能力大赛等。不仅如此,采访中李骅也表示,公司也在从‘产学研’向‘政用产学研’进行转变。他说:“我个人认为‘政用产学研‘强调的是‘政’和‘用’,尤其是现在各个院校,包括企业一直强调服务区域经济、服务地方政府以及地方政府联动。去年OPEN AI LAB和深圳市人社局以及深圳市人工智能产业协会共同举办、承办了深圳市首届人工智能高技能人才公益培训班,培训班不仅讲述了相关的理论知识同时也分享了一些场景应用案例,通过这样的一种方式可以让更多人工智能从业人员参与到‘政用产学研’中来。”
目前,EAIP已与山东大学、东北电力大学、济南职业学院等数十所高校有了深入合作,为高校提供一个教育平台,方便老师做行业技术创新研究与应用,方便学生更容易学习行业案例,从而更易掌握AI应用技能。
Tengine将更广泛的支持各种边缘芯片,各种NPU加速器;尤其是近几年国产化芯片的进程普及日益加速,形成自有的核心竞争力,显得更加重要任重道远。
同时在云边端一体化的大背景下,将支持边缘原生,包括边缘自治,边缘计算平台,和基于异构计算的边缘AI App是一个非常复杂庞大的规划,不但要自我突破技术瓶颈,链路上更优化,精度更高,速度更快,部署更方便,上手更容易,开发难度更低。
同时更需要营造自己的云边端一体化生态体系,让更多的生态开发者能够主动参与到tengine大生态中来,如果说什么东西都自己干,实际上效率是不高的,需要大家各自做擅长的地方,通过生态合作产生合力,才能形成一个良好环境,让国产AI生态从芯片到基础软件都迅速发展。目前边缘计算已经成为AI行业公认的发展趋势。与过去几年比较热门的云原生相似,行业在未来也可能会出现类似的边缘原生技术。基于此,OPEN AI LAB也将继续打造一个从开发到部署的一整套边缘原生的AI系统平台。
未来Tengine会逐步开放更多内容,与越来越多芯片厂商合作;另一方面,OPEN AI LAB也会逐渐将Tengine MLOps的功能开放或开源出来,从而让整个生态更加获益。包括企业工程师及高校的教师、学生,借助生态的力量,推动行业端在云边端一体化上技术的更加成熟,同时反哺行业赋能教育上的训练技术,以生态为底座,呈双螺旋的状态迭代生长。
评论前必须登录!
注册