熟悉张国荣的粉丝,可能都了解哥哥生前最后的一场演唱会——《热·情》。这场演唱会由其亲自担任艺术总监,从艺术构思到剧情式的曲目编排,承载着他对华语歌坛的满腔热忱。在张国荣阔别19年后,尘封的《热·情》演唱会母带,在AI技术的修复下,与粉丝重逢。

4月1日 ,由腾讯云多媒体实验室领先算法团队修复、腾讯音乐娱乐集团携手环球音乐旗下厂牌宝丽金,并联合腾讯云、微信视频号、腾讯视频等多个团队联合呈现的“张国荣2000年《热·情》演唱会超清修复版”全球首播。数千万粉丝共同见证了AI技术加持下的这场风华绝代的演唱会。

视频修复并不是新鲜的事物,相信大部分读者之前在社交平台中都刷到过用AI修复百年前老北京影片的新闻。许多经典老片、大荧幕电影都经过AI技术的修复,被重新搬上了荧幕。AI技术修复视频影像资料此前大都集中在影视领域,对于演唱会这类视频资料的修复较少见。虽然都是修复视频,但演唱会和影视类的视频修复还是有着较大的区别。

视频修复中的“长尾”困境

视频修复包含物理修复和数字修复,前者指对于胶片本身的修复,包括去除杂质、形变、划痕等流程,后者则主要集中在基于机器学习、深度学习这方面的全自动修复,AI技术的引入,在修复领域的核心价值就是尽可能用技术覆盖以前堆砌人力的方式,去减少人力与修复成本。

视频修复解决的是老旧影视资料中,画面雪花、划痕等造成视频素材清晰度、画面、色彩等造成的感官损失度感受。影视剧视频的修复,相对演唱会而言场景比较固定,镜头的运作以及整个画面比较稳定,从头到尾的艺术表达形式、整体的色彩风格比较统一。

但演唱会不一样,演唱会里面的灯光与画面镜头会有特别多的切换,尤其是在人脸修复方面,光影效果在现场看是助燃剂,但对于修复来说,就是复杂的“灾难”,对于修复的效果会造成特别大的影响。

脑极体跟此次《热·情》演唱会背后的修复技术专家也聊了下,有关演唱会修复背后的一些技术与故事。

腾讯多媒体实验室专家研究员夏珍介绍道,现在业界基本上很难找到基于视频的人脸修复,大部分的人脸修复只是基于图片或者单张照片,如果要用到视频上会遇到更多复杂的问题。比如每一帧中脸的角度不一样,如果是侧脸或者很小的脸以及很大的脸,各种角度和姿态的脸都需要在算法处理里面能够解决这些问题。

打开网易新闻 查看更多图片
打开网易新闻 查看更多图片

在演唱会修复中,不仅需要面对人脸本身的修复问题,还叠加了光影的影响。演唱会不仅有灯光并且颜色多变,打在人脸上后,如何运用智能算法,解决这些问题,是一项不小的挑战,并且在这其中,也会有技术不能解决的问题。

我们知道,在视频修复中,划痕和雪花点的数量越多,观赏的体验也就越差。修复领域,划痕的修复成本高昂,并且多数的划痕修复不可逆。并且业界也缺乏庞大的划痕公开数据库,这也使得算法难以调优,而搭建数据库的话,成本也非常昂贵。

演唱会这类视频的修复有着许多长尾问题,除了运用纯算法模型的方式之外,也需要一些人工参数的调整,比较费心思。

据腾讯多媒体实验室方面介绍,此次演唱会的修复工作用到的是实验室旗下的“超清沉浸感修复引擎”,这是面向老片修复场景的技术解决方案。整个演唱会的修复包括智能分析、画质修复、画质增强、智能编码四个步骤。通过多种AI评估算法对视频内容进行帧级别、场景级别和视频级别等多维度的智能分析。利用多种人工智能修复算法,针对老片场景下进行训练和优化,修复老片中常见的竖线、雪花点、噪声、压缩失真、抖动等问题。

打开网易新闻 查看更多图片

从整体画面的主观感受上来看,修复后比以前的画面更清晰、更真实。这种真实感来自画质整体的增强,包括分辨率、色彩、帧率等方面的提升。在张国荣近景特写中,我们能够明显感受到他脸部的轮廓、毛孔、胡子都比老版要清晰很多。用数据来表示效果也十分明显,之前母带分辨率只有720×480的分辨率,修复以后接近4K高清画质,分辨率提升了6倍,整个画面的流畅度也有所优化。

来源:脑极体