Efectivamente, me refería al quality threshold en el apartado antialiasing de render options, con user settings activado dentro de preset render quality. Siento no a ver sido más explícito. Eso sí, dentro del apartado object antialiasing, no en texture filtering. A mí me redujo el ruido a prácticamente imperceptible, sin llegar a aumentar a más de 9 los subrays per pixel (con lo cual imagino se mejorara aún más). Si el problema no radica ahí, se me ocurren 2 cosas más, que aumentes los presets en Photon Maps dentro de advanced effects quality, o que sea por algún problema del códec de vídeo, por lo que describes de que el grano era estático. Perdona si no soy de mucha ayuda, pero no soy ningún experto y no tengo referencia visual.
Espero que finalmente puedas solucionarlo, un saludo.