si necesitas mas de 1 y 3, es que algo estas haciendo mal, o estas haciendo algo muy raro.
Antes de subir esos valores, baja el threshold, 0.2 es muy basico, algo como 0.1 o 0.05 te puede dar mejores resultados que subiendo el antialias a 3 y 6
Dithering ayuda tambien sobre todo en escenas estaticas (de mas de un frame, por supuesto)
Y el filtro, que un lanczos o mitchell a 4 y 4 tambien ayuda, valores superiores a 4 y 4 pueden hacer que la imagen este borrosa.
Hay una explicacion infinitamente mejor que esta en los manuales, algo demasiado tencnica, pero esta bien mirarsela.