NEWS
紧密跟随国家产业指导及技术发展
在安防行业,,,一个“盒子”如何让AI大模型落地???浏览数:608  发布时间:2024-04-07 08:40:25
  【企业关注】从一年前爆火的ChatGPT,,,,到前段时间文生视频大模型Sora,,,,AI大模型的发展动态、、、议题仍不断吸引着大众关注和讨论。。。
   云天励飞董事长兼CEO陈宁曾表示:“未来3年,,,,全球80%的企业都将使用大模型。。。。
   有报告显示,,,,截至2023年10月,,,,国内公开的AI大模型数量已经达到238个,,,过去5年世界上参数量超过百亿的大模型大约有45个,,,其中9个出现在中国。。
   中国AI大模型发展势头正猛,,,但对于安防中小微企业而言,,AI大模型能做什么??
   安防中小微企业的痛点
   对于大多承接项目规模在100万以内的的SMB安防企业而言,,,其人员配置一般以销售为主,,技术为辅,,,,且业务多聚焦于零售、、、、餐饮、、工厂、、仓储、、农林牧渔等细分场景,,,,往往中小微企业很难具备整体AI解决方案输出能力。。
   这也使得长尾市场下,,,相关摄像头设备虽已大范围铺开,,但AI技术的落地渗透率并不高。。
   究其原因,,,主要有两大痛点:
   服务成本高
   中小微企业所承接的安防项目规模相对较小,,,扣除掉工人、、、设备采购等费用支出后,,,,项目营收小。。。。无法进行规模化效应降低边际成本,,,服务成本居高不下。。。
   而中小微企业本身预算有限,,这也意味着在整个项目中要考虑到多个需求并且做出权衡,,,,在原有基础上升级AI变得有门槛。。。
   长尾需求难满足
   对于目前更多中小微企业而言,,其更多的是在“搬箱子”,,,,即上游设备厂家有什么就卖什么,,,安防+AI经过近几年的发展,,,,也在落地上遇到了“能实现的客户需求太少”“新需求的开发、、、交付速度慢”“生成算法精度差”“定制成本太高”等问题。。。。
   但不可否认,,中国SMB安防市场规模庞大,,,这不仅仅是一个设备产品市场,,,,更是一个工程市场。。。。因其整体数量巨大,,,范围极广,,,规模累积效应也较大。。。
   这也意味着,,,,哪家企业能更好满足中小微企业更多需求,,,帮助其解决更多痛点,,,,哪家企业便能破局而出。。。
   仅千元级就能用上大模型
   “大模型一次训练成本在千万级,,,,主流的训推一体机价格普遍在百万元,,绝大多数企业都无法承担这样高昂的成本。。。。” 云天励飞董事长兼CEO陈宁坦言道。。。。
   对于怎么解决让AI大模型平民化这个难题,,,在历经各种推翻和演练后,,,云天励飞推出了“深目”AI模盒。。。
   在“算法芯片化”的核心能力下,,,云天励飞基于自研大模型边缘训推芯片DeepEdge10 Max以及自研多模态大模型“云天天书”的深度融合,,,做到了将大模型塞进一个仅凭单手便可轻松托起的千元级小盒子中。。。。
   “深目”AI模盒具备算法边缘侧在线学习能力,,可实现“3个90%”——算法场景覆盖超过90%、、、算法精度超过90%,,,,使用成本降低90%。。。
   也就是说,,,,安防人都能够根据自身场景需求,,,,利用“深目”AI模盒,,,,就可拥有自己“专属”的大模型,,,,训练出实战应用的算法,,。。。
   如今,,“深目”AI模盒已适配并可承载10亿级SAM、、、百亿级Llama2等大模型运算,,可广泛应用于AIoT边缘视频、、、、移动机器人等场景。。
   另外,,,,关于“盒子”里的大模型能力,,其来源于云天励飞自主研发的多模态大模型“云天天书”。。。。
   据了解,,云天天书大模型包含语言大模型、、多模态大模型等不同系列,,,在C-evals、、CMMLU等权威测试中多次获得第一,,,并于去年正式通过中央网信办备案。。。
   云天天书1.0版本于2023年初正式推出,,至今已完成3个版本的迭代,,预计今年6月将迭代4.0 V版本。。
   “深目”AI模盒不仅仅是“压缩”了大模型和芯片能力的一款全新产品,,,更是把云天励飞大模型通过算法芯片化能力平台“硬件化”的一次重要尝试。。。
   作为云天励飞二次创业的首款产品,,,深目AI模盒将于6月30日正式发售且面向所有客户统一发货。。。
   少/无数据场景也能生成算法
   面对新产品,,,用户除了关注性价比外,,还需要关注产品是否“好用”的问题。。
   云天励飞副总裁罗忆介绍,,“深目”AI模盒能实现秒速训练场景算法。。
   在“深目”AI模盒的算法训练平台上,,,,有大量与生态合作伙伴共同打造的算法商城,,,,能够提供覆盖14个大类、、、、100+个小类、、千余种算法。。。
   用户可以直接调用预训练算法,,,,并上传自身场景图片完成算法的微调和升级,,,,快速训练出高精度算法。。。。
   在演示中,,,以店外经营为例,,,,当用户需要训练识别算法时,,,可以直接使用平台现成的算法对目标进行识别。。。。用户只需要对识别结果标记“正确”和“误报”,,,,算法精度就能通过自主学习快速提升。。。。
   那数据几乎空白的场景,,如天灾人祸等极端场景,,,面对这样“敏感数据”“无数据”的情况,,,,用户该如何训练算法???
   云天励飞给出的答案是——使用AI合成数据来训练算法。。
   据介绍,,,,以加油站场景的吸烟识别为例,,,“深目”AI模盒能够利用大模型能力,,以加油站为背景,,生成在该环境抽烟行为的人物,,并将数据用于算法训练中,,,,填补训练数据的空白。。。
   “在我们AI合成数据的过程中,,,,我们也会基于已有的一些真实数据并引入3D引擎去精准微调、、、、预训练我们的大模型,,,,让生成的效果更加贴近真实的场景。。。。”云天励飞董事长兼CEO陈宁解释道。。。。
   十年磨一剑,,,,出鞘必锋芒。。。。2014年,,,,云天励飞推出基于CV小模型的“深目”1.0,,,,为“AI+公共安全”市场开启了新纪元;2024年,,云天励飞选择二次创业,,,推出了基于自研芯片和大模型技术的“深目”AI模盒。。。
   “深目”AI模盒的面世也充分印证了AI商业化须从方案化到运营化再到产品化的发展路径,,未来,,我们期待云天励飞能传来更多AI大模型在安防落地的好消息。。。

服务热线:

15054210659

地址:湖北省荆州市石首市笔架山办事处皇后宫小区68号
邮箱:service@juaow.cn

Copyright © 2023 荆州市尊龙时凯网络科技有限公司 版权所有
鄂ICP备2024077907号
站点地图