ONNX 模型库
返回模型

说明文档

You will find these models in your Edge browser directory: C:\Users{user}\AppData\Local\Microsoft\Edge\User Data\EdgeOnnxRuntimeDirectML\1.12.1.11

Microsoft Edge 中的视频超分辨率

你是否曾希望即使视频原本是以较低质量录制的,也能以高清画质观看你喜欢的内容?现在,借助我们在 Edge Canary 中试验的一项新功能:视频超分辨率(VSR),你可以实现这一愿望。

视频超分辨率使用机器学习技术,通过不依赖特定显卡的算法来提升 Microsoft Edge 中播放视频的质量,消除块状压缩伪影并提高视频分辨率,让你可以在 YouTube 和其他视频流媒体平台上享受清晰锐利的视频,而无需牺牲带宽。

由于视频放大需要消耗计算资源,视频超分辨率(VSR)目前在满足以下条件时才会启用:

设备配备以下显卡(GPU)之一:Nvidia RTX 20/30/40 系列或 AMD RX5700-RX7800 系列显卡。[1] 视频分辨率低于 720p。 设备未使用电池供电。 视频的高度和宽度均大于 192 像素。 视频未受 PlayReady 或 Widevine 等数字版权管理(DRM)技术保护。这些受保护视频的帧无法被浏览器访问进行处理。 [1] 注意:我们正在为配备多个 GPU 的笔记本电脑开发自动混合 GPU 支持。在此期间,你可以通过更改 Windows 设置强制 Edge 在独立显卡上运行来体验 VSR。

视频超分辨率由 Edge 自动启用,并在地址栏显示 HD 图标作为指示。该功能可能消耗较多计算资源,因此该图标允许用户完全控制启用或禁用该功能。

可用性

如上所述,我们已开始向 Canary 频道的一小部分用户进行试验,并将在未来几周内逐步向更多用户推出该功能。我们也期待在未来扩展支持的显卡列表。

幕后原理

让我们深入了解视频超分辨率(VSR)的幕后工作原理。

ONNX Runtime 和 DirectML

Microsoft Edge 中的 VSR 基于 ONNX Runtime 和 DirectML 构建,使我们的解决方案可以跨 GPU 供应商移植,从而让更多用户能够使用 VSR。未来将支持更多兼容这些技术且具备足够计算能力的显卡。ONNX Runtime 和 DirectML 团队经过多年的技术优化,使 VSR 能够充分利用显卡处理器的性能和能力。ONNX Runtime 负责加载打包为 .onnx 文件的机器学习模型,并使用 DirectML 来优化和评估机器学习工作负载,通过利用可用的 GPU 能力(如原生 ML 张量处理)来实现高帧率下的最大执行吞吐量。

存储机器学习模型

为了节省磁盘空间,VSR 所需的组件和模型仅在我们检测到兼容 GPU 时才会添加到你的设备上。在 Edge Canary 中访问 edge://components/ 时,如果出现名为"Edge Video Super Resolution"的组件,即表示你的显卡支持视频超分辨率功能。这种基于组件的方式让我们能够根据设备性能和能力来部署特定且多个模型。

DirectX 11 与 DirectML 的互操作

为了支持 VSR,我们在 Microsoft Edge 中构建了全新的 DX12 呈现管线。Microsoft Edge 基于 Chromium 构建,而 Chromium 使用 DX11 进行视频解码/光栅化,并在视频解码后生成 DX11 纹理。另一方面,DirectML 仅支持 DX12 缓冲区。为了支持 VSR,我们在嵌入 Microsoft Edge 的 Chromium 引擎中构建了全新的灵活 DX12 管线。我们的新管线运行着色器将 DX11 纹理转换为 DirectML 缓冲区/张量,以供 ONNX Runtime 使用。

阅读完整文章请访问: https://blogs.windows.com/msedgedev/2023/03/08/video-super-resolution-in-microsoft-edge/

更多信息:https://www.microsoft.com/en-us/edge/features/enhance-video?form=MA13FJ

dejanseo/VideoSuperResolution

作者 dejanseo

↓ 0 ♥ 0

创建时间: 2024-08-28 08:59:55+00:00

更新时间: 2024-08-28 09:19:14+00:00

在 Hugging Face 上查看

文件 (12)

.gitattributes
DirectML.dll
README.md
VideoSuperResolution-DXM-FP16.onnx ONNX
VideoSuperResolution-DXM-FP32.onnx ONNX
VideoSuperResolution-E-FP16.onnx ONNX
VideoSuperResolution-E-FP32.onnx ONNX
VideoSuperResolution-FP16.onnx ONNX
VideoSuperResolution-FP32.onnx ONNX
manifest.fingerprint
manifest.json
onnxruntime.dll