De la 5 a la 6 han variado un poco el asunto de los passes. En realidad sigue siendo lo mismo, pero han añadir el render manager que ya has visto y usado, de manera que queda un poco mejor organizado (desde mi punto de vista) y han añadido el concepto "channel", que no es otra cosa que lo que en versiones anteriores se hacia de manera un poco más manual y añadiendo overrides y particiones en un pass, para aislar determinadas propiedades.
Esto se sigue teniendo que hacer para canales que no vienen hechos, o también puedes "construir" más canales. A mi mode ver, la ventaja de channel sirven para generar menos passes, o centrar más los passes en objetos y no en propiedades de shading. Es decir, por ejemplo, generar un passe para el objeto A y otro para el objeto B, y dentro de esos passes, sacar los canales de difusion, reflexion, especular, etc. Sin el concepto de canales, habria que crear los passes objeto_A_diffuse, objeto_A_reflexion, objeto_A_especular...
Respondiendo a tus cuestiones, lo de desactivar la salida de stillframes diría que no es posible sin que no grabe el render. Yo nunca me lo he planteado, porque no contemplo la salida como movie. Si interesa por rendimiento o cualquier otro motivo, siempre y en cualquier momento se pueden unir todos los frames en un fichero de video. Con el flipbook mismo. Piensa que los formatos de video suelen soportar menos información. Puedes tener problemas con los alphas, o con el colordepth.
Para lo del fondo, todo espacio en la escena donde no haya geometria, se incluye en el canal alpha. Si necesitas incluir ciertos objetos, puedes crear una partición en el passe como matte,y asignarle un constant negro (RGBA=0,0,0,0)y todos lo objetos que arrastres ahi se incluiran en en el canal alpha.
O también puedes sacar un passe de tipo white_matte y en el combustion añades un set matte para aislar el objeto que necesites, con ese passe.