Иванов Денис, как Вам удалось увеличить значение hashsize до такой величины?
Система с 16 гигабайт оперативной памяти, Linux 3.4.9 x86_64. При попытке выставить значение /sys/module/nf_conntrack/parameters/hashsize выше 524288 получаю ошибку "nf_conntrack: falling back to vmalloc." nf_conntrack version 0.5.0
cat /proc/meminfo:
На стандартном ядре CentOS 6.3 2.6.32-279.14.1.el6.x86_64 та же ситуация.
Перерыл все параметры в .config, не могу понять, где же проблема.
Единственное, что удалось найти, это обсуждение патча на lkml.org.