.кодеки тут не причем. хфайр записывает на диск (локально) несжатое видио, без кодирования. а отправив его на сайт - там оно и обрабатывается.
.обычно 30 кадров/сек - достаточно. все остальные (выше) настройки - избыточны и лишь дополнительно нагружают проц во время игры и записи.
плюс - разрешение. тоже влияет на качество.
у тебя, скорее, проблемы с драйверами.