海侃|海思V900 MEMC:披着青铜外衣的王者
在开始介绍今天的主角前我们先看一段对比影片👇👇👇钢铁侠的变身让相信大家对于60fps VS 24fps的对比已经心里有数,画面流畅性上前者吊打后者,因此画面的流畅感和视频的帧率(Frame Rate)有很大的关系。 帧率的单位为 fps(frame per second),即每秒播放多少帧画面。当前主流电影的帧率为24fps,而早期的电影拍摄和播放的帧率是不固定的,一般拍摄帧率在16fps到24fps之间,播放的帧率一般在22fps到26fps之间。比如大家熟悉的卓别林的电影,播放的时候有点像快进,导演有时会用帧率的变化来传递不同的情绪。
1926年有声电影推出时,研究发现人耳对音频的变化更敏感,削弱了人对电影帧率变化的关注,而大部分无声电影使用22至26帧/秒播放,所以选择中间值24帧/秒作为有声电影的帧率,大致在1930年,24帧/秒成为35mm有声电影的标准。 电影和电视帧率不一 ,易造成抖动
大家常看的电视剧和综艺节目,帧率为25fps或30fps。电视主流的制式PAL(50Hz)和NTSC(60Hz),采用25fps或30fps拍摄正好和电视机的扫描频率成整数倍关系,所以看电视的时候大家不会感觉有明显的抖动,然而在电视上看电影或美剧(多采用24fps拍摄)时,则会不同程度感觉到运动不连续或抖动。
主流消费级显示设备(显示器、电视机、投影仪)的刷新频率一般为60Hz,少数高端产品会有120Hz、144Hz等面板。对于60Hz刷新率而言,去播放一个24Hz的片子,60不是24的整数倍,所以必须采取3:2 pull down的方式进行帧重复(即第一帧重复3次,第二帧重复2次,第三帧再重复3次,第四帧再重复2次……)这样就把24“fps”的视频各帧“相对均匀”地分配到了60Hz的播放设备上。再加之显示设备的响应速度(response time)有制约,导致视频看起来有点不连续和抖动(judder)。 电影观感就是比电视强,为啥?
为什么judder在电影院里是不存在的?因为放映机直接就是24Hz的刷新率,不需要 pull up或pull down,保证为24Hz原汁原味,所以电影院的观感上会比电脑、电视上看起来好很多。目前只非常少的几部电影有采用 48fps 及更高帧率拍摄,如《霍比特人》(48fps)、《比利林恩的中场战事》(120fps)。
⬆️ 这是一个足球的实际运动轨迹⬆️ 这是用24帧的摄像机拍摄下来的足球轨迹⬆️ 我们在电视上实际看到的足球⬆️ 在电视上实际看到的足球轨迹图从上面的图,明显看出足球实际的运动轨迹和最终电视上看到的轨迹差别比较大。将两张图叠起来大家就更容易看出来。
⬆️ 足球在飞行的过程中,会看到运动不连续和抖动 显示尺寸越大抖动越明显
很多人会发现在手机或PAD这类小的屏幕上足球的抖动就不明显,而在55寸或75寸的大屏幕电视上这个抖动就会非常明显,这是由于屏幕尺寸变大以后运动的不连续会被放大,有些对抖动敏感的人会有眩晕的感觉。
解决问题需要运用MEMC的技术
讲解完这个电视中存在的judder的问题以后,那有没有办法去掉这个judder呢?OK,那就需要讲到今天我们介绍的技术了MEMC(motion estimation and motion compensation)。运动预估与运动补偿,简单的字面解释就是基于物体运动的轨迹进行预测,并根据预测的结果来插入一个运动的中间状态来改善judder。 运用MEMC的技术,就是通过对图像里物体的运动轨迹(运动矢量)检测,在原始帧中间插入运算后的补偿帧来提升画面的流畅性:
以把24fps插帧到60fps举例,原来的画面次序是这样的:
1 2 3 4 5 6…
按3:2 pull down的顺序插帧
1 1a 1b 2 2a 3 3a 3b 4 4a 5 5a 5b 6 6a…
这样原来24帧的画面就通过计算插帧变成了60帧的画面了去除果冻效应有高招
由于所有新增的帧都是运动预测计算出来的,因此预测失误可能会带来副作用,预测算法的优劣,直接影响副作用大小,比较明显的就是果冻效应或光环“halo”。
左侧是国内已经上市的某品牌电视MEMC产品的效果图,右侧是海思最新的MEMC算法的效果图,通过对人物运动的轨迹精确的计算,可以减少halo的效应。
另外一项在MEMC插帧算法中会出现的小物体运动的物体丢失。
大家会发现图2插入的帧足球消失了,为什么呢?大部分的MEMC算法模块中,采用块匹配的方法计算相邻的帧之间物体的运动相关性,也就是把图像切成16x16或32x32像素矩阵的块,再根据物体的运动矢量(mv)进行插值,由于算法是基于图像的块进行计算而非像素级(每个像素进行计算,计算量成几何级数上升,从芯片成本和可实现性上来看无法实现)导致对于小物体的运动矢量估计不准确,会导致小物体的丢失或出现重叠的现象。 海思算法让“消失的足球”回来啦
为了改善小物体的运动,海思芯片算法基于当前帧的频率特征计算图像块的运动矢量,这样就能改善小物体的运动矢量计算,大家看图3,消失的足球又回来了。
很多人有在手机端看视频的经历,同样的视频在手机屏上看没有卡顿的感觉,但在电视上看会发现有明显的视频不流畅的问题。这是由于大部分网络视频流都是24/25/30fps帧率,而在手机屏上由于物体相同时间内从位置A到位置B的移动距离远远小于电视屏幕,通常液晶电视屏的尺寸一般是手机屏的8-10倍,导致低帧率的视频在电视侧更需要MEMC的技术来消除Judder。NO.1做到8K MEMC整合8K SoC内的芯片
8K的电视是4K电视分辨率(像素点)的4倍,而且8K电视的主流尺寸是70-90寸,还有土豪喜欢的110寸,所以MEMC效果的好坏直接影响到电视用户的观影体验。海思最新的8K芯片Hi3751V900是第一家把8K MEMC整合到8K SoC内的芯片,把MEMC内置到8K主SoC里面可以和8K画质模块更好的配合,为消费者完美呈现8K身临其境的画质体验。小伙伴们是不是迫不及待就想看到基于海思最新8K芯片,8K MEMC的画质效果了?
以上视频及图片仅用于解释及描述技术特性
往期推荐
《海思:我在绘制一张通往智能世界的地图?》
《上海海思熊伟:如何筑就通往智能世界之路?》
如有兴趣,可扫描下方二维码关注留言,感谢!
【关于我们】上海海思技术有限公司是全球领先的Fabless半导体设计公司。全球设有12个能力中心,面向城市、家庭及出行三大应用场景,提供领先、创新、安全可靠的芯片与解决方案,业务覆盖100多个国家及地区。
转载:上海海思
- 分享
- 举报
-
浏览量:3189次2022-01-29 09:00:23
-
浏览量:3407次2022-01-31 09:00:24
-
浏览量:2607次2020-08-05 20:56:37
-
浏览量:14083次2019-09-21 19:14:57
-
浏览量:2732次2020-08-14 11:27:38
-
浏览量:2873次2018-04-03 09:48:45
-
浏览量:2568次2022-10-19 09:59:40
-
浏览量:1010次2024-01-03 17:15:03
-
浏览量:3619次2020-07-27 16:07:46
-
浏览量:2472次2020-08-04 15:11:02
-
浏览量:1034次2024-01-06 10:33:06
-
浏览量:1650次2024-01-02 16:35:00
-
浏览量:2438次2018-12-17 17:07:51
-
浏览量:2237次2019-04-10 17:45:23
-
浏览量:3475次2020-07-30 11:57:30
-
浏览量:3361次2018-03-28 16:56:08
-
浏览量:6036次2020-03-18 10:41:44
-
浏览量:7259次2021-03-18 08:54:25
-
浏览量:6689次2021-09-30 18:51:24
- HiBurt烧录Hi3861说明
- 最近在看海思SDK中关于imx274_sensor_ctl.c代码中,如何快速初始化数组为同一值
- 海思芯片Hi3516DV500驱动的黑光摄像机:夜间监控的高性能解决方案
- 海思TCON | 高端屏显的心脏,高画质表现的标配
- 海思8K助力广电网络弯道超车:为智慧家庭带来极致体验、智慧服务、规范连接
- HarmonyOS之旅 - 【Chapter2 非典型环境终极完全搭建方法】
- 海思GPIO驱动开发示例一
- 基于HI3516/HI3518/HI3559内部ADC驱动实现
- 海思hi3519av100上移植opencv3.4.1及移植成功验证
- 常用高压mos管SVF4N65/SVF7N65/SVF10N65/SVF12N65参数
-
广告/SPAM
-
恶意灌水
-
违规内容
-
文不对题
-
重复发帖
四叶草~
感谢您的打赏,如若您也想被打赏,可前往 发表专栏 哦~
举报类型
- 内容涉黄/赌/毒
- 内容侵权/抄袭
- 政治相关
- 涉嫌广告
- 侮辱谩骂
- 其他
详细说明