Selur's Little Message Board
[BUG] QSVenc in HEVC 10 bit mode = crash - Printable Version

+- Selur's Little Message Board (https://forum.selur.net)
+-- Forum: Hybrid - Support (https://forum.selur.net/forum-1.html)
+--- Forum: Problems & Questions (https://forum.selur.net/forum-3.html)
+--- Thread: [BUG] QSVenc in HEVC 10 bit mode = crash (/thread-3703.html)



QSVenc in HEVC 10 bit mode = crash - ProVideo - 14.05.2024

Hybrid version 2024.04.06.1

My source is 3840x2160 25p Grass Valley HQX codec (but same problem with other source codecs)

When I use your default settings (your Preset) to encode H.265 8 bit 4:2:0 with QSVenc, there is no problem. If I set the same preset to 10 bit, there is a immediate encoding crash with return value=0. I tried all the possibilities to encode in HEVC 10 bit 4:2:0 with QSVenc, but always the same crash. I tested on I913900K + Nvidia RTX3060 an on a laptop i7 10750H + GTX1660ti-Max.

But I have no problem to encode the same source in H265 10 bit 4:2:0 with QSVenc in Resolve, Edius and HandBrake. There is also never a problem with NVenc on Hybrid.

I would also like to use QSVenc to do HEVC 10 bit 4:2:2 which is supported by the Intel GPU (not by the Nvidia GPU), but the setting is grayed out on 4:2:0 in the Hybrid interface

Help Please.


RE: QSVenc in HEVC 10 bit mode = crash - Selur - 14.05.2024

Quote:Hybrid vesion 24.06.06.1
That version doesn't exist,...

About your problems:
1. Whether something is enabled or not depends on the output of
QSVEncC --check-features
Hybrid takes that output and adjusts the Frontend to the options present.
On my setup it looks like this:
QSVEncC (x64) 7.60 (r3254) by rigaya, Feb 16 2024 12:50:55 (VC 1937/Win)
Intel Media SDK API v2.09
reader: raw, avi, avs, vpy, avsw, avhw
Environment Info
OS : Windows 11 x64 (22631) [UTF-8]
CPU: AMD Ryzen 9 7950X 16-Core Processor [5.77GHz] (16C/32T)
RAM: Used 7534 MB, Total 64631 MB
GPU: Intel Arc A380 Graphics (128EU) 2450MHz (31.0.101.5448)

Media SDK Version: Hardware API v2.10

Supported Enc features:
Codec: H.264/AVC FF
             CBR   VBR   AVBR  QVBR  CQP   LA    LAHRD ICQ   LAICQ VCM  
RC mode       o     o     x     o     o     x     x     o     x     o    
10bit depth   x     x     x     x     x     x     x     x     x     x    
Hyper Mode    x     x     x     x     x     x     x     x     x     x    
Interlace     x     x     x     x     x     x     x     x     x     x    
VUI info      o     o     x     o     o     x     x     o     x     o    
Trellis       o     o     x     o     o     x     x     o     x     o    
BFrame/GopRef o     o     x     o     o     x     x     o     x     x    
Adaptive_I    x     x     x     x     x     x     x     x     x     x    
Adaptive_B    x     x     x     x     x     x     x     x     x     x    
WeightP       o     o     x     o     o     x     x     o     x     o    
WeightB       o     o     x     o     o     x     x     o     x     x    
FadeDetect    x     x     x     x     x     x     x     x     x     x    
B_Pyramid     o     o     x     o     o     x     x     o     x     x    
+ManyBframes o     o     x     o     o     x     x     o     x     x    
PyramQPOffset x     x     x     x     x     x     x     x     x     x    
TuneQuality   x     x     x     x     x     x     x     x     x     x    
ScenarioInfo  o     o     x     o     o     x     x     o     x     o    
MBBRC         o     o     x     o     x     x     x     o     x     o    
ExtBRC        o     o     x     x     x     x     x     x     x     x    
AdaptiveRef   o     o     x     o     o     x     x     o     x     o    
AdaptiveLTR   x     x     x     x     x     x     x     x     x     x    
AdaptiveCQM   o     o     x     o     o     x     x     o     x     o    
LA Quality    x     x     x     x     x     x     x     x     x     x    
QP Min/Max    o     o     x     o     o     x     x     o     x     o    
IntraRefresh  x     x     x     x     x     x     x     x     x     x    
No Deblock    x     x     x     x     x     x     x     x     x     x    
No GPB        x     x     x     x     x     x     x     x     x     x    
Windowed BRC  x     x     x     x     x     x     x     x     x     x    
PerMBQP(CQP)  o     o     x     x     o     x     x     x     x     x    
DirectBiasAdj o     o     x     o     o     x     x     o     x     o    
MVCostScaling o     o     x     o     o     x     x     o     x     o    
SAO           x     x     x     x     x     x     x     x     x     x    
Max CTU Size  x     x     x     x     x     x     x     x     x     x    
TSkip         x     x     x     x     x     x     x     x     x     x    
COP           o     o     x     o     o     x     x     o     x     o    
COP2          o     o     x     o     o     x     x     o     x     o    
COP3          o     o     x     o     o     x     x     o     x     o    
HEVC_PRM      x     x     x     x     x     x     x     x     x     x    
COP_VP8       x     x     x     x     x     x     x     x     x     x    
VP9_PRM       x     x     x     x     x     x     x     x     x     x    
AV1BITSTREAM  x     x     x     x     x     x     x     x     x     x    
AV1RESOLUTION x     x     x     x     x     x     x     x     x     x    
AV1TILE       x     x     x     x     x     x     x     x     x     x    
VIDEO_SIGNAL  o     o     x     o     o     x     x     o     x     o    
CHROMALOC     o     o     x     o     o     x     x     o     x     o    
TUNE_ENC_QUAL x     x     x     x     x     x     x     x     x     x    
HYPER_MODE    o     o     x     o     o     x     x     o     x     o    



Codec: H.265/HEVC FF
             CBR   VBR   AVBR  QVBR  CQP   LA    LAHRD ICQ   LAICQ VCM  
RC mode       o     o     x     o     o     x     x     o     x     x    
10bit depth   o     o     x     o     o     x     x     o     x     x    
Hyper Mode    x     x     x     x     x     x     x     x     x     x    
Interlace     x     x     x     x     o     x     x     x     x     x    
VUI info      o     o     x     o     o     x     x     o     x     x    
Trellis       x     x     x     x     x     x     x     x     x     x    
BFrame/GopRef o     o     x     o     o     x     x     o     x     x    
Adaptive_I    o     o     x     o     o     x     x     o     x     x    
Adaptive_B    o     o     x     o     o     x     x     o     x     x    
WeightP       o     o     x     o     o     x     x     o     x     x    
WeightB       o     o     x     o     o     x     x     o     x     x    
FadeDetect    o     o     x     o     o     x     x     o     x     x    
B_Pyramid     o     o     x     o     o     x     x     o     x     x    
+ManyBframes o     o     x     o     o     x     x     o     x     x    
PyramQPOffset x     x     x     x     o     x     x     x     x     x    
TuneQuality   x     x     x     x     x     x     x     x     x     x    
ScenarioInfo  o     o     x     o     o     x     x     o     x     x    
MBBRC         o     o     x     o     x     x     x     o     x     x    
ExtBRC        o     o     x     x     x     x     x     x     x     x    
AdaptiveRef   x     x     x     x     x     x     x     x     x     x    
AdaptiveLTR   o     o     x     o     o     x     x     o     x     x    
AdaptiveCQM   o     o     x     o     o     x     x     o     x     x    
LA Quality    x     x     x     x     x     x     x     x     x     x    
QP Min/Max    o     o     x     o     x     x     x     o     x     x    
IntraRefresh  x     x     x     x     x     x     x     x     x     x    
No Deblock    o     o     x     o     o     x     x     o     x     x    
No GPB        o     o     x     o     o     x     x     o     x     x    
Windowed BRC  x     o     x     x     x     x     x     x     x     x    
PerMBQP(CQP)  x     x     x     x     x     x     x     x     x     x    
DirectBiasAdj x     x     x     x     x     x     x     x     x     x    
MVCostScaling x     x     x     x     x     x     x     x     x     x    
SAO           o     o     x     o     o     x     x     o     x     x    
Max CTU Size  o     o     x     o     o     x     x     o     x     x    
TSkip         o     o     x     o     o     x     x     o     x     x    
COP           o     o     x     o     o     x     x     o     x     x    
COP2          o     o     x     o     o     x     x     o     x     x    
COP3          o     o     x     o     o     x     x     o     x     x    
HEVC_PRM      o     o     x     o     o     x     x     o     x     x    
COP_VP8       x     x     x     x     x     x     x     x     x     x    
VP9_PRM       x     x     x     x     x     x     x     x     x     x    
AV1BITSTREAM  x     x     x     x     x     x     x     x     x     x    
AV1RESOLUTION x     x     x     x     x     x     x     x     x     x    
AV1TILE       x     x     x     x     x     x     x     x     x     x    
VIDEO_SIGNAL  o     o     x     o     o     x     x     o     x     x    
CHROMALOC     o     o     x     o     o     x     x     o     x     x    
TUNE_ENC_QUAL x     x     x     x     x     x     x     x     x     x    
HYPER_MODE    o     o     x     o     o     x     x     o     x     x    



Codec: VP9 FF
             CBR   VBR   AVBR  QVBR  CQP   LA    LAHRD ICQ   LAICQ VCM  
RC mode       o     o     x     x     o     x     x     o     x     x    
10bit depth   o     o     x     x     o     x     x     o     x     x    
Hyper Mode    x     x     x     x     x     x     x     x     x     x    
Interlace     x     x     x     x     x     x     x     x     x     x    
VUI info      x     x     x     x     x     x     x     x     x     x    
Trellis       x     x     x     x     x     x     x     x     x     x    
BFrame/GopRef x     x     x     x     x     x     x     x     x     x    
Adaptive_I    x     x     x     x     x     x     x     x     x     x    
Adaptive_B    x     x     x     x     x     x     x     x     x     x    
WeightP       x     x     x     x     x     x     x     x     x     x    
WeightB       x     x     x     x     x     x     x     x     x     x    
FadeDetect    x     x     x     x     x     x     x     x     x     x    
B_Pyramid     x     x     x     x     x     x     x     x     x     x    
+ManyBframes x     x     x     x     x     x     x     x     x     x    
PyramQPOffset x     x     x     x     x     x     x     x     x     x    
TuneQuality   x     x     x     x     x     x     x     x     x     x    
ScenarioInfo  o     o     x     x     o     x     x     o     x     x    
MBBRC         o     o     x     x     x     x     x     o     x     x    
ExtBRC        x     x     x     x     x     x     x     x     x     x    
AdaptiveRef   x     x     x     x     x     x     x     x     x     x    
AdaptiveLTR   x     x     x     x     x     x     x     x     x     x    
AdaptiveCQM   x     x     x     x     x     x     x     x     x     x    
LA Quality    x     x     x     x     x     x     x     x     x     x    
QP Min/Max    x     x     x     x     x     x     x     x     x     x    
IntraRefresh  x     x     x     x     x     x     x     x     x     x    
No Deblock    x     x     x     x     x     x     x     x     x     x    
No GPB        x     x     x     x     x     x     x     x     x     x    
Windowed BRC  x     x     x     x     x     x     x     x     x     x    
PerMBQP(CQP)  x     x     x     x     x     x     x     x     x     x    
DirectBiasAdj x     x     x     x     x     x     x     x     x     x    
MVCostScaling x     x     x     x     x     x     x     x     x     x    
SAO           x     x     x     x     x     x     x     x     x     x    
Max CTU Size  x     x     x     x     x     x     x     x     x     x    
TSkip         x     x     x     x     x     x     x     x     x     x    
COP           x     x     x     x     x     x     x     x     x     x    
COP2          o     o     x     x     o     x     x     o     x     x    
COP3          o     o     x     x     o     x     x     o     x     x    
HEVC_PRM      x     x     x     x     x     x     x     x     x     x    
COP_VP8       x     x     x     x     x     x     x     x     x     x    
VP9_PRM       o     o     x     x     o     x     x     o     x     x    
AV1BITSTREAM  x     x     x     x     x     x     x     x     x     x    
AV1RESOLUTION x     x     x     x     x     x     x     x     x     x    
AV1TILE       x     x     x     x     x     x     x     x     x     x    
VIDEO_SIGNAL  x     x     x     x     x     x     x     x     x     x    
CHROMALOC     x     x     x     x     x     x     x     x     x     x    
TUNE_ENC_QUAL x     x     x     x     x     x     x     x     x     x    
HYPER_MODE    x     x     x     x     x     x     x     x     x     x    



Codec: AV1 FF
             CBR   VBR   AVBR  QVBR  CQP   LA    LAHRD ICQ   LAICQ VCM  
RC mode       o     o     x     x     o     x     x     o     x     x    
10bit depth   o     o     x     x     o     x     x     o     x     x    
Hyper Mode    x     x     x     x     x     x     x     x     x     x    
Interlace     x     x     x     x     x     x     x     x     x     x    
VUI info      o     o     x     x     o     x     x     o     x     x    
Trellis       x     x     x     x     x     x     x     x     x     x    
BFrame/GopRef o     o     x     x     o     x     x     o     x     x    
Adaptive_I    o     o     x     x     o     x     x     o     x     x    
Adaptive_B    o     o     x     x     o     x     x     o     x     x    
WeightP       x     x     x     x     x     x     x     x     x     x    
WeightB       x     x     x     x     x     x     x     x     x     x    
FadeDetect    x     x     x     x     x     x     x     x     x     x    
B_Pyramid     o     o     x     x     o     x     x     o     x     x    
+ManyBframes o     o     x     x     o     x     x     o     x     x    
PyramQPOffset x     x     x     x     x     x     x     x     x     x    
TuneQuality   o     o     x     x     o     x     x     o     x     x    
ScenarioInfo  o     o     x     x     o     x     x     o     x     x    
MBBRC         o     o     x     x     x     x     x     o     x     x    
ExtBRC        o     o     x     x     x     x     x     o     x     x    
AdaptiveRef   x     x     x     x     x     x     x     x     x     x    
AdaptiveLTR   o     o     x     x     o     x     x     o     x     x    
AdaptiveCQM   o     o     x     x     o     x     x     o     x     x    
LA Quality    x     x     x     x     x     x     x     x     x     x    
QP Min/Max    o     o     x     x     x     x     x     o     x     x    
IntraRefresh  x     x     x     x     x     x     x     x     x     x    
No Deblock    x     x     x     x     x     x     x     x     x     x    
No GPB        x     x     x     x     x     x     x     x     x     x    
Windowed BRC  x     x     x     x     x     x     x     x     x     x    
PerMBQP(CQP)  x     x     x     x     x     x     x     x     x     x    
DirectBiasAdj x     x     x     x     x     x     x     x     x     x    
MVCostScaling x     x     x     x     x     x     x     x     x     x    
SAO           x     x     x     x     x     x     x     x     x     x    
Max CTU Size  x     x     x     x     x     x     x     x     x     x    
TSkip         x     x     x     x     x     x     x     x     x     x    
COP           o     o     x     x     o     x     x     o     x     x    
COP2          o     o     x     x     o     x     x     o     x     x    
COP3          o     o     x     x     o     x     x     o     x     x    
HEVC_PRM      x     x     x     x     x     x     x     x     x     x    
COP_VP8       x     x     x     x     x     x     x     x     x     x    
VP9_PRM       x     x     x     x     x     x     x     x     x     x    
AV1BITSTREAM  o     o     x     x     o     x     x     o     x     x    
AV1RESOLUTION o     o     x     x     o     x     x     o     x     x    
AV1TILE       o     o     x     x     o     x     x     o     x     x    
VIDEO_SIGNAL  o     o     x     x     o     x     x     o     x     x    
CHROMALOC     x     x     x     x     x     x     x     x     x     x    
TUNE_ENC_QUAL o     o     x     x     o     x     x     o     x     x    
HYPER_MODE    o     o     x     x     o     x     x     o     x     x    



Supported Vpp features:

Resize                o
Deinterlace           o
Scaling Quality       o
Denoise               o
Denoise2              o
Mctf                  x
Rotate                o
Mirror                o
Detail Enhancement    o
Proc Amp.             o
Image Stabilization   x
Perceptual Pre Enc    x
Video Signal Info     o
FPS Conversion        o
FPS Conversion (Adv.) o


Supported Decode features:

        H.264  HEVC   MPEG2  VP8    VP9    AV1    
yuv420  8bit  10bit   8bit         10bit  10bit
yuv422        10bit                10bit        
yuv444        12bit                12bit  12bit
=> What does QSVEncC show for on your system?

2. About the crash: Will need a debug output to reproduce the problem. (read the sticky)

Cu Selur

Ps.: Send you a link to my current dev, try whether that version already fixes the problem. (jobs need to be recreated)


RE: QSVenc in HEVC 10 bit mode = crash - ProVideo - 16.05.2024

Hybrid version 24.06.06.1 = error, must be read as 2024.04.06.1