rc-lookahead引起的malloc fail

akiduki

似乎随意override默认的rc-lookahead值（调高）极容易让x264报malloc fail或者encoder fail的错误，而且这种现象在1080的源外加比较蛋疼的avs滤镜时特别明显，rev 1259和1271皆会发生。具体等晚上上课回来看看有没时间贴图...

个人估计是生成mbtree时做的预测过程对内存分配欠考虑所致。

diseac

这几天用1271压了好几个实写，rc-lookahead 50，没出现过这种情况。
AVS里面全都有EP的TempGaussMC_beta1mod，704x396，内存使用维持在400M左右。

akiduki

嗯 396的分辨率有点小了 而且rc-lookahead也没我ep啊

akiduki

1. x264_1271 --profile main --level 4.1 --pass 1 --crf 18 --stats "ep01.stats" --rc-lookahead 100 --keyint 240 --min-keyint 1 --ref 4 --bframes 8 --no-fast-pskip --b-adapt 2 --direct auto --deblock -1:-1 --subme 10 --trellis 2 --psy-rd 0.3:0 --partitions none --qcomp 0.5 --qpmax 40 --vbv-bufsize 20000 --vbv-maxrate 17000 --me tesa --merange 64 --thread-input --no-dct-decimate --sar 1:1 -o NUL ep01.avs

复制代码

这是我某个ep的case
avs里用了fft3dgpu和gradfun2dbmod

VempX

我压1080的QB04，1pass，--rc-lookahead 100，总是会包VBV underflow错误

1. 
   
2. x264 [warning]: VBV underflow (frame 32288, -378921 bits):06:52
   
3. x264 [warning]: VBV underflow (frame 32289, -694819 bits)
   
4. x264 [warning]: VBV underflow (frame 33281, -138170 bits):03:13
   
5. x264 [warning]: VBV underflow (frame 33282, -225795 bits)
   
6. x264 [warning]: VBV underflow (frame 33283, -329547 bits)
   
7. x264 [warning]: VBV underflow (frame 33284, -425259 bits)
   
8. x264 [warning]: VBV underflow (frame 33287, -237298 bits)
   
9. x264 [warning]: VBV underflow (frame 33288, -74979 bits)
   

复制代码

1281和1268都会出现，不过不太一样

VempX

把--rc-lookahead降到了50，没有再出这个warning 囧

hdfuck

压过几个720P,没有出现过问题.
x264-1281
内存2G

1. program --profile high --pass 2 --bitrate 6000 --stats ".stats" --level 5.1 --ref 5 --no-fast-pskip --b-adapt 2 --direct auto --deblock -3:-3 --subme 9 --trellis 2 --psy-rd 1.0:0.2 --partitions p8x8,b8x8,i4x4,i8x8 --vbv-bufsize 50000 --vbv-maxrate 50000 --me umh --merange 32 --thread-input --no-dct-decimate --psnr --ssim --output "output" "input" --rc-lookahead 150

复制代码