[BUG] rev. 2017.12.24.1 - Probleme mit SMDegrain

[rabiato]

Moin Selur,

erstmal frohe Weihnachten und vielen Dank für die neue Version.


Hier nun mein Problem, die Verwendung von SMDegrain führt zu Ghosting und Schlieren:





Bei ansonsten gleichen Einstellungen mit MDegrain encodiert:






Ausserdem wird bei contrasharp >0 die LSFmod.avsi nicht importiert was zu Abstürzen führt.

SetMemoryMax(1536)
SetMTMode(2,8) # changing MT mode
LoadPlugin("C:\PROGRA~1\Hybrid4\AVISYN~1\LoadDll.dll")
LoadPlugin("C:\PROGRA~1\Hybrid4\AVISYN~1\DGDecode.dll")
LoadPlugin("C:\PROGRA~1\Hybrid4\AVISYN~1\AddGrainC.dll")
LoadPlugin("C:\PROGRA~1\Hybrid4\AVISYN~1\dfttest.dll")
LoadPlugin("C:\PROGRA~1\Hybrid4\AVISYN~1\EEDI2.dll")
LoadPlugin("C:\PROGRA~1\Hybrid4\AVISYN~1\eedi3.dll")
LoadPlugin("C:\PROGRA~1\Hybrid4\AVISYN~1\FFT3DFilter.dll")
LoadPlugin("C:\PROGRA~1\Hybrid4\AVISYN~1\mt_masktools-26.dll")
LoadPlugin("C:\PROGRA~1\Hybrid4\AVISYN~1\mvtools2.dll")
LoadPlugin("C:\PROGRA~1\Hybrid4\AVISYN~1\nnedi.dll")
LoadPlugin("C:\PROGRA~1\Hybrid4\AVISYN~1\nnedi2.dll")
LoadPlugin("C:\PROGRA~1\Hybrid4\AVISYN~1\SSE2Tools.dll")
LoadPlugin("C:\PROGRA~1\Hybrid4\AVISYN~1\TDeint.dll")
LoadPlugin("C:\PROGRA~1\Hybrid4\AVISYN~1\VerticalCleanerSSE2.dll")
LoadPlugin("C:\PROGRA~1\Hybrid4\AVISYN~1\PlanarTools.dll")
LoadPlugin("C:\PROGRA~1\Hybrid4\AVISYN~1\nnedi3.dll")
LoadPlugin("C:\PROGRA~1\Hybrid4\AVISYN~1\RgTools.dll")
LoadPlugin("C:\PROGRA~1\Hybrid4\AVISYN~1\TIVTC.dll")
LoadPlugin("C:\PROGRA~1\Hybrid4\AVISYN~1\Average.dll")
LoadPlugin("C:\PROGRA~1\Hybrid4\AVISYN~1\GRunT.dll")
LoadPlugin("C:\PROGRA~1\Hybrid4\AVISYN~1\dither.dll")
LoadPlugin("C:\PROGRA~1\Hybrid4\AVISYN~1\RemoveGrainHDS.dll")
LoadPlugin("C:\PROGRA~1\Hybrid4\AVISYN~1\RepairSSE2.dll")
LoadCPlugin("C:\PROGRA~1\Hybrid4\AVISYN~1\yadif.dll")
LoadDll("C:\PROGRA~1\Hybrid4\AVISYN~1\fftw3.dll")
LoadDll("C:\PROGRA~1\Hybrid4\AVISYN~1\LIBFFT~1.DLL")
Import("C:\Program Files\Hybrid4\avisynthPlugins\QTGMC.avsi")
Import("C:\Program Files\Hybrid4\avisynthPlugins\SMDegrain.avsi")
Import("C:\Program Files\Hybrid4\avisynthPlugins\AnimeIVTC.avsi")
Import("C:\Program Files\Hybrid4\avisynthPlugins\Srestore.avsi")
Import("C:\Program Files\Hybrid4\avisynthPlugins\dither.avsi")
# loading source: K:\Konvert-Test\The Silver Fox\VTS_01_1_00_cutn.mpg
#  input luminance scale tv
MPEG2Source(d2v="K:\Hybrid\mpg_7f0446c34bc89dec74f4c78a5b7bc562_41.d2v")
# deinterlacing
AssumeTFF()
QTGMC(Preset="Slow", ediThreads=2)
# removing ghosting
srestore(frate=25.000,omode=6)
# cropping to 718x368
Crop(0,56,-2,-56)
# current resolution: 718x368
# grain handling
SMDegrain(tr=5,RefineMotion=true,contrasharp=75,interlaced=false,blksize=8)
# scaling
Spline36Resize(720,304)
distributor()
return last

Ich schicke Dir ein Sample sowie das DebugOutput per PM, da sich letzteres hier anscheinend nicht hochladen lässt.

Please correct the following errors before continuing:

The file you attached is too large. The maximum size for that type of file is 200 kilobytes.

Gruß,
rabiato

[Selur]

Ausserdem wird bei contrasharp >0 die LSFmod.avsi nicht importiert was zu Abstürzen führt.

Werde ich fixen.

Hier nun mein Problem, die Verwendung von SMDegrain führt zu Ghosting und Schlieren:

Was aber eher an SMDegrain als an Hybrid zu liegen scheint,... das Avisynth script sieht für mich okay aus.

[Selur]

Habs.
Liegt nicht an SMDegrain, sondern daran, dass Hybrid dein Material als 'field--blended (NTSC from PAL)' identifiziert, deshalb den Deinterlacer auf 'none' stellt und 'sRestore' aktiviert, aber aus irgendeinem Grund (eventuell Bug) nicht auch TFM aktiviert. Du dann 'QTGMC' manuell als Deinterlacer einstellst, aber sRestore nicht deaktivierst.
Aus irgendeinem Grund scheint SMDegrain, aber Probleme mit sRestore zu haben (auch wenn TFM an ist).
-> Damit das Ghosting nicht auftritt müsstest Du einfach sRestore dekativieren.

Cu Selur

[rabiato]

Es liegt an SMDegrain.avsi, mit der SMDegrain v.3.1.2d.avsi funktioniert es!

Ich habe das von Hybrid generierte Skript leicht angepasst mit Megui getestet, bei der Verwendung von SMDegrain.avsi ergaben sich Ghosting und Schlieren, mit SMDegrain v.3.1.2d.avsi war das Ergebnis einwandfrei.

SetMemoryMax(1536)
LoadPlugin("C:\Program Files\Hybrid4\avisynthPlugins\LoadDll.dll")
LoadPlugin("E:\Downloads\Video\MeGUI_2525_x86\tools\avisynthPlugins\DGDecode.dll")
LoadPlugin("C:\Program Files\Hybrid4\avisynthPlugins\AddGrainC.dll")
LoadPlugin("C:\Program Files\Hybrid4\avisynthPlugins\dfttest.dll")
LoadPlugin("C:\Program Files\Hybrid4\avisynthPlugins\EEDI2.dll")
LoadPlugin("C:\Program Files\Hybrid4\avisynthPlugins\eedi3.dll")
LoadPlugin("C:\Program Files\Hybrid4\avisynthPlugins\FFT3DFilter.dll")
LoadPlugin("C:\Program Files\Hybrid4\avisynthPlugins\mt_masktools-26.dll")
LoadPlugin("C:\Program Files\Hybrid4\avisynthPlugins\mvtools2.dll")
LoadPlugin("C:\Program Files\Hybrid4\avisynthPlugins\nnedi.dll")
LoadPlugin("C:\Program Files\Hybrid4\avisynthPlugins\nnedi2.dll")
LoadPlugin("C:\Program Files\Hybrid4\avisynthPlugins\SSE2Tools.dll")
LoadPlugin("C:\Program Files\Hybrid4\avisynthPlugins\TDeint.dll")
LoadPlugin("C:\Program Files\Hybrid4\avisynthPlugins\VerticalCleanerSSE2.dll")
LoadPlugin("C:\Program Files\Hybrid4\avisynthPlugins\PlanarTools.dll")
LoadPlugin("C:\Program Files\Hybrid4\avisynthPlugins\nnedi3.dll")
LoadPlugin("C:\Program Files\Hybrid4\avisynthPlugins\RgTools.dll")
LoadPlugin("C:\Program Files\Hybrid4\avisynthPlugins\TIVTC.dll")
LoadPlugin("C:\Program Files\Hybrid4\avisynthPlugins\Average.dll")
LoadPlugin("C:\Program Files\Hybrid4\avisynthPlugins\GRunT.dll")
LoadPlugin("C:\Program Files\Hybrid4\avisynthPlugins\MosquitoNR.dll")
LoadPlugin("C:\Program Files\Hybrid4\avisynthPlugins\RepairSSE2.dll")
LoadPlugin("C:\Program Files\Hybrid4\avisynthPlugins\VariableBlur.dll")
LoadPlugin("C:\Program Files\Hybrid4\avisynthPlugins\warpsharp.dll")
LoadCPlugin("C:\Program Files\Hybrid4\avisynthPlugins\yadif.dll")
LoadDll("C:\Program Files\Hybrid4\avisynthPlugins\fftw3.dll")
LoadDll("C:\Program Files\Hybrid4\avisynthPlugins\LIBFFT~1.DLL")
Import("C:\Program Files\Hybrid4\avisynthPlugins\QTGMC.avsi")
Import("C:\Program Files\Hybrid4\avisynthPlugins\SMDegrain v.3.1.2d.avsi")
Import("C:\Program Files\Hybrid4\avisynthPlugins\AnimeIVTC.avsi")
Import("C:\Program Files\Hybrid4\avisynthPlugins\Srestore.avsi")
Import("C:\Program Files\Hybrid4\avisynthPlugins\Dehalo_alpha_mt.avsi")
Import("C:\Program Files\Hybrid4\avisynthPlugins\LimitedSharpenFasterMod.avs")
# loading source: K:\Konvert-Test\The Silver Fox\test.mpg
#  input luminance scale tv
DGDecode_mpeg2source("K:\Konvert-Test\The Silver Fox\test.d2v", info=3)
LoadPlugin("E:\Downloads\Video\MeGUI_2525_x86\tools\avisynthPlugins\ColorMatrix.dll")
ColorMatrix(hints=true, threads=0)
# deinterlacing
AssumeTFF()
QTGMC(Preset="Slow", ediThreads=2)
# removing ghosting
srestore(frate=25.000,omode=6)
# cropping to 718x364
Crop(0,58,-2,-58)
# current resolution: 718x364
# deringing
MosquitoNR()
# dehaloing
DeHalo_alpha_mt()
# grain handling
SMDegrain(tr=4,contrasharp=true,interlaced=false,pel=2,search=5)
# scaling
Spline36Resize(720,304)

In Hybrid scheint bei Verwendung von QTGMC die SMDegrain.avsi standardmäßig geladen zu werden, das müsste vielleicht angepasst werden.



Gruß
rabiato

[Selur]

In Hybrid scheint bei Verwendung von QTGMC die SMDegrain.avsi standardmäßig geladen zu werden, das müsste vielleicht angepasst werden.

Nein, die neuere QTGMC Version nutzt SMDegrain.

Ich habe das von Hybrid generierte Skript leicht angepasst mit Megui getestet, bei der Verwendung von SMDegrain.avsi ergaben sich Ghosting und Schlieren, mit SMDegrain v.3.1.2d.avsi war das Ergebnis einwandfrei

Ah! Mist, beim Reinkopieren nicht vorher umbenannt,.. :/
-> einfach alle SMDeGrain Dateien außer der 'SMDegrain v.3.1.2d.avsi' löschen und SMDegrain v.3.1.2d.avsi nach SMDegrain.avsi umbenennen sollte das Problem beheben.
Korrektur die 'SMDegrain v.3.1.2d.avsi' wird auch gebraucht. (werde ich fixen) Also einfach den Inhalt der 'SMDegrain v.3.1.2d.avsi' in die SMDegrain.avsi kopieren.

Cu Selur

[rabiato]

Das war's, jetzt läuft es wie es soll!


Gruß
rabiato

[Selur]

Gerade den Beitrag nochmal editiert. -> SMDegrain v.3.1.2d.avs wird aktuell auch noch benötigt.

[rabiato]

Moin Selur,

in der rev. 2017.12.27.1 führt die Einstellung "Subpixel: NNEDI3" führt zum Absturz, alle anderen Einstellungen funktionieren.


Gruß
Rabiato

[Selur]

Sollte in der aktuellen Dev Version gefixed sein.
Schicke Dir heute Abend einen Link.

Cu Selur

[rabiato]

SMDegrain funktioniert jetzt, dafür stürzt Hybrid nun bei der Verwendung von HQDering ab.

Gruß
Rabiato

---

Gerade mal getestet, bei der rev. 2017.12.27.1 tritt das Problem mit HQDering auch auf.

Gruß
Rabiato