商务合作

在安防行业,一个“盒子”如何让AI大模型落地?

2024-04-03 10:16:29 原创    作者:思文 责任编辑: csj 收藏本文
摘要:仅千元级就能用上大模型。

    【CPS中安网 cps.com.cn】 

  从一年前爆火的ChatGPT,到前段时间文生视频大模型Sora,AI大模型的发展动态、议题仍不断吸引着大众关注和讨论。

  云天励飞董事长兼CEO陈宁曾表示:“未来3年,全球80%的企业都将使用大模型。

  有报告显示,截至2023年10月,国内公开的AI大模型数量已经达到238个,过去5年世界上参数量超过百亿的大模型大约有45个,其中9个出现在中国。

  中国AI大模型发展势头正猛,但对于安防中小微企业而言,AI大模型能做什么?

  安防中小微企业的痛点

  对于大多承接项目规模在100万以内的的SMB安防企业而言,其人员配置一般以销售为主,技术为辅,且业务多聚焦于零售、餐饮、工厂、仓储、农林牧渔等细分场景,往往中小微企业很难具备整体AI解决方案输出能力。

  这也使得长尾市场下,相关摄像头设备虽已大范围铺开,但AI技术的落地渗透率并不高。

  究其原因,主要有两大痛点:

  服务成本高

  中小微企业所承接的安防项目规模相对较小,扣除掉工人、设备采购等费用支出后,项目营收小。无法进行规模化效应降低边际成本,服务成本居高不下。

  而中小微企业本身预算有限,这也意味着在整个项目中要考虑到多个需求并且做出权衡,在原有基础上升级AI变得有门槛。

  长尾需求难满足

  对于目前更多中小微企业而言,其更多的是在“搬箱子”,即上游设备厂家有什么就卖什么,安防+AI经过近几年的发展,也在落地上遇到了“能实现的客户需求太少”“新需求的开发、交付速度慢”“生成算法精度差”“定制成本太高”等问题。

  但不可否认,中国SMB安防市场规模庞大,这不仅仅是一个设备产品市场,更是一个工程市场。因其整体数量巨大,范围极广,规模累积效应也较大。

  这也意味着,哪家企业能更好满足中小微企业更多需求,帮助其解决更多痛点,哪家企业便能破局而出。

  仅千元级就能用上大模型

  “大模型一次训练成本在千万级,主流的训推一体机价格普遍在百万元,绝大多数企业都无法承担这样高昂的成本。” 云天励飞董事长兼CEO陈宁坦言道。

  对于怎么解决让AI大模型平民化这个难题,在历经各种推翻和演练后,云天励飞推出了“深目”AI模盒。

640.jpg

▲深目AI模盒与常规推理盒子的对比

  在“算法芯片化”的核心能力下,云天励飞基于自研大模型边缘训推芯片DeepEdge10 Max以及自研多模态大模型“云天天书”的深度融合,做到了将大模型塞进一个仅凭单手便可轻松托起的千元级小盒子中。

640.png

  “深目”AI模盒具备算法边缘侧在线学习能力,可实现“3个90%”——算法场景覆盖超过90%、算法精度超过90%,使用成本降低90%。

  也就是说,安防人都能够根据自身场景需求,利用“深目”AI模盒,就可拥有自己“专属”的大模型,训练出实战应用的算法,。

  如今,“深目”AI模盒已适配并可承载10亿级SAM、百亿级Llama2等大模型运算,可广泛应用于AIoT边缘视频、移动机器人等场景。

  另外,关于“盒子”里的大模型能力,其来源于云天励飞自主研发的多模态大模型“云天天书”。

  据了解,云天天书大模型包含语言大模型、多模态大模型等不同系列,在C-Eval、CMMLU等权威测试中多次获得第一,并于去年正式通过中央网信办备案。

  云天天书1.0版本于2023年初正式推出,至今已完成3个版本的迭代,预计今年6月将迭代4.0 V版本。

  “深目”AI模盒不仅仅是“压缩”了大模型和芯片能力的一款全新产品,更是把云天励飞大模型通过算法芯片化能力平台“硬件化”的一次重要尝试。

  作为云天励飞二次创业的首款产品,深目AI模盒将于6月30日正式发售且面向所有客户统一发货。

  少/无数据场景也能生成算法

  面对新产品,用户除了关注性价比外,还需要关注产品是否“好用”的问题。

  云天励飞副总裁罗忆介绍,“深目”AI模盒能实现秒速训练场景算法。

  在“深目”AI模盒的算法训练平台上,有大量与生态合作伙伴共同打造的算法商城,能够提供覆盖14个大类、100+个小类、千余种算法。

  用户可以直接调用预训练算法,并上传自身场景图片完成算法的微调和升级,快速训练出高精度算法。

  在演示中,以店外经营为例,当用户需要训练识别算法时,可以直接使用平台现成的算法对目标进行识别。用户只需要对识别结果标记“正确”和“误报”,算法精度就能通过自主学习快速提升。

  那数据几乎空白的场景,如天灾人祸等极端场景,面对这样“敏感数据”“无数据”的情况,用户该如何训练算法?

3.jpg

  云天励飞给出的答案是——使用AI合成数据来训练算法。

  据介绍,以加油站场景的吸烟识别为例,“深目”AI模盒能够利用大模型能力,以加油站为背景,生成在该环境抽烟行为的人物,并将数据用于算法训练中,填补训练数据的空白。

  “在我们AI合成数据的过程中,我们也会基于已有的一些真实数据并引入3D引擎去精准微调、预训练我们的大模型,让生成的效果更加贴近真实的场景。”云天励飞董事长兼CEO陈宁解释道。

  十年磨一剑,出鞘必锋芒。2014年,云天励飞推出基于CV小模型的“深目”1.0,为“AI+公共安全”市场开启了新纪元;2024年,云天励飞选择二次创业,推出了基于自研芯片和大模型技术的“深目”AI模盒。

  “深目”AI模盒的面世也充分印证了AI商业化须从方案化到运营化再到产品化的发展路径,未来,我们期待云天励飞能传来更多AI大模型在安防落地的好消息。

声明:

凡文章来源标注为"CPS中安网"的文章版权均为本站所有,如需转载请务必注明出处为"CPS中安网",违反者本网将追究相关法律责任。非本网作品均来自互联网并标明了来源,如出现侵权行为,请立即与我们联系,待核实后,我们将立即删除,并向您致歉。

分享到:
本文导航

您可能感兴趣的文章

征稿:

为了更好的发挥CPS中安网资讯平台价值,促进诸位自身发展以及业务拓展,更好地为企业及个人提供服务,中安网诚征各类稿件,欢迎有实力安防企业、机构、研究员、行业分析师。投稿邮箱: tougao@cps.com.cn(查看征稿详细)

品牌推荐

联系我们

客服电话:0755-23947175

客服QQ:1144734650

寻求报道:yl.zeng@cps.com.cn

投稿联系:tougao@cps.com.cn

关注我们

WeChat ID: cpscomcn

手机中安网

m.cps.com.cn

备案号:粤ICP备09063021号    电信增值业务经营许可证:粤B2-20100259       客服热线:0755-88309108  
粤公网安备:44030402001522号      深圳市中安网络技术有限公司版权所有Copyright © 1999- 中安网 CPS.COM.CN