Varios aspectos:
1. ¿Porque tiff para trabajar en pantalla?
(guardas como tiff cuando vayas a llevar la imagen a impresion, que imagino que vas a imprimir porque usas tif)
2. ¿Que operaciones haces en photoshop? Espero que no hagas cambios de resolucion de impresion.
3. Saca los passes que necesites y compon directamente en el compositor del xsi como lo estás haciendo, pero el pass de AO no lo compongas por transparencia multiply, sino por Matte (mascara con el canal alpha). Para ello usa el operador Composite With Matte.
4. Un apunte para cuando uses imagenes RGBA. Como la intención es usarlas para componer y estas llevando un canal alpha dentro de la imagen de color, activa siempre el alpha premultiply (passe que estes usando: Render options > Active effects, en el sector "image").
Con esto podrás controlar el borde del matte con un rango de negro a blanco.
5. Otro aspecto importante en la preparacion de una imagen para composicion esta en el mismo sitio (Render Options > Active Effects, sector "image"). Fijate en la opción intensity clipping y en color clipping.
Aqui tienes la explicación de la ayuda, que seguro que está mejor explicada de lo que yo lo haría (me he cansado de escribir ;P)
Color Clipping The Color clipping option defines how colors are clipped to a 0 to 1 range if they are not being written at floating-point precision. In all modes, the RGB components are clipped as specified by the desaturate option. Both the RGB and Alpha modes ensure that the resulting color is a valid premultiplied color.
The following modes are available:
RGB mode first clips RGB values to the 0 to 1 range, and then clips alpha values to the MaxRGB to 1 range. Use this mode when you need to preserve RGB color and intensity, but the alpha channel is less important.
Alpha mode, alpha is first clipped to the 0 to 1 range, and the RGB is clipped to the ) to the 0 to A range. This mode is useful for alpha compositing, since its is more important that the transparencies are correct and less important that RGB color and intensity are correct.
Raw mode clips both RGB and alpha to the 0 to 1 range, independently of one another. This mode is only useful if you are not going to be doing any alpha compositing.
Note: Raw mode forces the Alpha Premultiply option on.
Espero que te sirva de ayuda
Saludos,
Unaided