Cuando dices que el render no tiene calidad suficiente a que te refieres?
Por ejemplo, para el render final pon lo siguiente si no lo has hecho ya:
Pestaña Rendering:
Sampling Constrast = 0,05
Aliasing min. =0 y max. = 2
Si tienes reflejos o transparencias raytrace los Primary Rays en Raytracing, en Scanline es mas rapido pero menos preciso, todo depende de la escena.
Pestaña Framebuffer:
Filter type = Mitchell
Filter size = 4
Con esto tienes un render de alta calidad,..pero caro en tiempo,..depende de la escena, luces, etc,..cada caso es diferente.
Suerte.