,多模态成智能终端的新战场入驻手机AI视频

百科
2021
分享
评论

文|乐乐。入驻

今日,视频手机无线蓝牙耳机(TWS)现已成为人人都用得起的多模的新产品 。 。态成

但退回到9年前 ,智能终端战场苹果AirPods是入驻全球榜首款实在意义上的无线蓝牙耳机  。靠着自研并申请专利的视频手机Snoop监听技能 ,苹果处理了蓝牙耳机左右延时和能耗纷歧的多模的新问题 。由此,态成AirPods吃下了2016-2018年的智能终端战场大部分商场 ,直到两年后其它厂商才学会相似技能。入驻

靠技能盈利取胜,视频手机是多模的新苹果的经典操作 ,也是态成今日的手机厂商们在苹果身上学到的重要一课。

关于近两年的智能终端战场手机商场来说,AI无疑便是搅动手机商场的关键技能变量。

为了找到AI技能落地的杀手级功用 ,从Agent、AI修图到AI问答 ,智能终端在做的作业便是在AI生态上尽或许做各式各样的加法 。

在高度同质化的AI手机赛道,手机厂商们亟需找到立异的AI技能落地功用。而荣耀,正在悄然拿下多个首发优势 。

在近期荣耀400的发布会现场 ,图生视频成了荣耀“吃螃蟹”的又一首发功用,这背面是协作方生数科技旗下的AI视频大模型在移动端的初次规模化落地。

联手生数科技Vidu ,荣耀打破了三大难关——坚持风格共同性、对物理国际的了解、端侧本钱紧缩,让用户免费体会“老相片复生术” 。

而就在两个月前 ,生数科技 Vidu Q1模型刚以VBench双榜榜首的成果碾压Sora与Runway,现在就悄然钻进千万用户的口袋 。

这场协作背面 ,一场更深层的革新正在发酵。

当时 ,多模态正在重构智能终端的交互体会,手机正成为图生视频技能普惠的战场之一 。当大模型的技能比赛从言语模型延伸到多模态,“让回忆重获生命”的图生视频 ,或许正是翻开群众商场的榜首把钥匙。

当图生视频在手机上跑起来。

一张由AI制造的“Live Photo”  ,成为了荣耀发布会现场世人评论的焦点。  。

相片中 ,一个小孩抱着窗布看向镜头浅笑  。经由图生视频功用加工后 ,小孩抓着窗布向一边摇晃 ,头部也跟着晃动方向轻轻歪斜,脸上挂着的笑脸变成了动态 ,能看到嘴角咧起的弧度和兴起的脸颊。

在荣耀产品线总裁方飞的演示中 ,只需求点击“AI生图”功用  ,选定相应相片和生成的视频时长(3秒/5秒) ,AI就能依据图片场景生成一段流通的视频。上述事例便是由该功用生成 。

早在3月宣告向AI终端生态公司转型的荣耀,在数字系列荣耀400上落地了一系列AI才干  。光是相片一项 ,荣耀就上线了AI图生视频、AI去褶皱、AI去眼镜反光、AI去玻璃反光 、图生视频等优化功用 。

看起来简略的视频演示,背面是图生视频技能落地智能终端的一大步:霸占了技能难点,才干让AI视频看起来无限趋近于实在 。

首要 ,要想让视频动起来的作用契合实在国际的运转规则 ,便是视频生成模型们前期的通病。比方提示词设定成两个人打羽毛球 ,交给AI来做 ,球或许会呈现随便飞起或许不依照球拍击打轨道飞翔等问题  ,导致生成出来的著作无法运用。

当下,怎么更好地模仿物理国际规则 ,也成了大模型们面前的难关。就在3月份 ,生数科技发布的模型Vidu Q1,在VBench-1.0的视频质量 、视频语义共同性和 VBench-2.0的常识推理 、物理了解等归纳维度上到达SOTA水平 。靠着对提示词的了解力增强  ,Vidu能自动辨认人物动作 、光影 、方位联络等内容,让生成的视频在动态上契合物理国际规则 。

此外 ,在风格共同性上 ,拿手动漫、水墨等多种画风了解的Vidu ,在坚持原图风格共同上的体现相对安稳 。比较于会把实在图片上传后随机转换成油画 、动漫等风格的视频生成模型 ,Vidu显然在场景了解上的体现更胜一筹 。

不过 ,要想让AI视频实在遍及,还需求考虑的便是生成速度和本钱问题。等待时间超越几分钟,用户体会感会直线下滑,本钱太高也会拖垮手机厂商的钱包。

而荣耀和生数科技一同克服了这几个问题,把图生视频玩法搬上了手机 。相关于各大视频运用靠会员制收费 ,荣耀的图生视频功用完全免费 ,让用户不花钱也能体会 。

尽管这次并未发布详细的生成时长和本钱 ,但依据此前Vidu 1.5版别做到几秒生成 、Vidu 2.0单秒本钱最低不到3毛钱的价格来看,AI视频现已具有了落地端侧的条件。

除此之外,AI视频大模型的技能一向在前进 ,未来或将在手机等智能终端中完成更多的功用。

比方,AI视频一向存在一个技能难点——主体共同性 。主体共同性,是指坚持人物 、物体 、环境等主体共同,不会面部五官乱飞,环境前后连接。

2024年 ,生数科技在新模型Vidu 1.5中完成多主体共同性 ,运用者可以上传布景和多个主体人物的相片,AI就能将这些自定义元素组合在一同,依据提示词生成视频。

以多主体共同性来说,海螺AI的“主体参阅”功用和可灵的“多图参阅”均在本年1月上线 ,比Vidu慢了2个月 。

多模态 ,智能终端的新战场。

多模态大模型 ,最近半年内正在肉眼可见的批量落地 。

在App端,字节在5月23日给自家AI帮手运用豆包装上了视频通话功用。背靠自研的视频推理模型 ,豆包不只能“睁眼看国际” ,还能依据看到的画面估测接下来的动作 ,比方炒菜的时分,豆包可以依据质料猜出对应的菜 ,而且给出炒菜的详细步骤 。

腾讯则在5月份发布了语音模型Human-Voice ,并预告腾讯元宝将会在6月上线语音通话功用 。一起 ,腾讯还会上线全球首个全模态模型“混元-O” 。

在智能终端上 ,自身经过GUI(图形用户界面)完成交互的手机厂商们 ,便是多模态大模型的重要载体 。

可以说  ,从这一轮生成式AI开端时,多模态AI就被厂商纳入了考虑规模。仅仅一开端在技能才干受限的情况下,大言语模型成为了端侧大模型落地最早的一种。

多模态模型在端测的运用更广 ,场景更多,不只可认为以往场景赋能  ,还能有新的互动体会场景 ,受众规模也会更广,由于视频图画的受众总是大于文字的。

跟着多模态才干的技能前进 ,端侧语音和视频交互的比重正在上升。

比方,一些在端侧运转的大言语模型逐步被多模态大模型替代 ,相应运用的底座也晋级为多模态:

2024年1月 ,荣耀发布自研端侧70亿参数渠道级AI大模型“魔法大模型”宗族  ,包含言语大模型和图画 、语音多模态大模型 ,支撑才智成片 、图库语义查找等功用 ,让AI可以“了解”图片;在购物、文娱 、作业等场景 ,敞开跨年代交互体会 。2024年5月  ,vivo发布多模态大模型技能运用“vivo看见-蓝心晋级版”,用于协助视障用户了解国际 。

随同职业多模态才干的打破,以往受限于才干缺乏的AI运用,也迎来了才干打破 。

其间,最杰出的运用领域便是Agent(智能体) 。经过调用手机屏幕截图,再将图片供给给多模态大模型的方法 ,AI开端可以实在“了解”屏幕信息,并依据用户指令作业 。这就有了上一年以荣耀为首等一系列手机厂商开卷智能体的动作 ,从荣耀的YoYo智能体到vivo蓝心智能体再到OPPO的“AI问屏”  ,都是根据多模态才干完成的自主智能体产品。

根据多模态才干的AI修图系列功用,也是运用愈加广泛的方向  。早在2010年,手机厂商就开端探究根据图画了解的AI拍摄算法 ,经过对图片的了解,用算法复原图片生成的细节 。

而在生成式AI才干进化的当下,根据多模态大模型的一系列图片优化功用也是厂商要点宣扬的方向。从各大手机厂商必备的一键修图 、图片辨认等功用 ,都是根据人们日常日子中的需求动身 。

这一次,荣耀也在发布会上带来了AI修图带来的更多或许性 。比方用AI完成“一键抠图”,让没有PS功底的用户也能轻松从图片中抠出人像 ,自在移动修改;再比方“AI消除眼镜反光”的功用 ,经过AI消除去摄影时眼镜折射的颜色。

在智能终端需求和多模态才干遍及的当下,二者一拍即合。

AI功用那么多 ,能用起来的有几个 ?

从大模型炽热以来,手机厂商对AI的热心无比高涨 ,开发的功用也是数不胜数。

从对话式谈天帮手 、AI笔记 、AI修图到AI智能体,不上十几个原生的AI运用,那都无法叫AI手机。

不过 ,用户实在能日常运用起来的高频运用 ,并不多。许多AI功用 ,要么是独立APP上有更好的替代品  ,要么便是功用鸡肋用不起来 。

另一方面 ,不少AI运用现在的运用门槛还比较高 ,一个是对用户的硬件环境有要求,需求PC端至少4090的显卡才干跑起来;另一个是对用户的技能有必定要求,下载、简略布置  、乃至海外账号的设置都能拦截掉一大批人。

以上面说到的图生视频来说 ,尽管可灵、海螺的产品比较老练 ,有了很高的可用性,但用户也仅仅局限于相对专业的用户规模内,比方设计师 、动画制造师 、新媒体从业者等  ,普通用户想自己用起来还十分难。

但荣耀和生数科技Vidu共同在端侧新推出的图生视频功用,无论是用来将过往的老相片变成视频,仍是靠图生视频捉住鲜活的时间 ,就又给用户记载日子,创造创意增添了许多或许。

而一张相片的视频生成,仅仅一个开端 。

智能终端与AI公司联手后 ,参阅生视频 、文生视频等AI视频的更多玩法,都有望进一步迁移到智能终端中 。

当然,这将进一步检测两边端侧AI、云端协同的技能才干 ,本钱下降的才干 。但实在能让用户用起来,才干实在增强产品的竞赛力,在手机竞赛的红海中逆势上升 。

2024年,手机商场改变现已证明了AI关于手机销量的促进作用 。在全球手机销量接连下滑两年后,于AI概念实在落地手机的2024年,全球现已接连4个季度完成了同比增加。商场调研组织Canalys供给数据显现  ,2024年全球手机销量到达12.2亿,同比增加7%。

比起在技能层的炫技 ,本年,AI在端侧的落地将给人带来更多惊喜。

特别声明 :本文为协作媒体授权专栏转载,文章版权归原作者及原出处一切。文章系作者个人观点 ,不代表专栏的态度 ,转载请联络原作者及原出处获取授权。(有任何疑问都请联络idonewsdonews.com) 。

THE END
免责声明:本文系转载,版权归原作者所有;旨在传递信息,不代表裔说的观点和立场。

相关热点

今年以来 ,恒勃股份强势上涨。一个要害的原因在于,公司正活跃进今年以来 ,商场对恒勃股份(301225.SZ)的重视度和买卖活跃度日积月累 ,公司股价强势上涨。截止7月3日收盘 ,报价72.6元/股 ,较年内低
知识
天猫【  。喜美诺旗舰店。】  。江西铜业旗下 ,喜美诺三位二孔 + 三位五孔总控插排 1.8 米B33)报价 31.66 元,今天官方立减 4.8 元 + 可领 5 元优惠券,实付 21.86 元包邮 。店肆新
百科
6 月 3 日音讯  ,零跑轿车官方微博发布预热海报,泄漏将于6月 6日发布一款新车,参阅其海报图片及谈论区,该车有望为零跑C16五座布局版 。。回忆零跑 C16 车型,该车规范六座版于上一年 6月28日
探索
6 月 3 日音讯 ,FCC 昨日曝光了未发布的大疆 DJI RC Track 无人机遥控器,除数张机器本体相片外,含设备功用介绍的用户说明书也被曝光。DJI RC Track 遥控器的相片拍照于上一
综合
7 月 2 日音讯 ,OpenAI CEO 萨姆・奥尔特曼上月到会了《Uncapped》播客 ,在节目中他回应了。 Meta 天价挖人。一事 。萨姆首要表明:“Meta 向咱们团队的许多人开出了天价酬劳,
百科
从一张白纸动身怎样绘出一所数字医院的未来蓝图?面临设备老旧 、体系晋级压力与日益杂乱的事务场景,某医院以“从零到一”的决计,牵手戴尔。科技 。交出了一份值得同职业参阅的数字化答卷 。近年来 ,在医疗数字化 、才
综合

相关推荐

1
3