No se puede. Photoshop es modo-destructivo.
Pocas son las cosas que se pueden aplicar sin tocar los pixeles de la imagen sin modificarlos permanentemente (algunos operadores de corrección de color -capas de ajuste- y poco más).
El recurso habitual es duplicar capas, y agrupar para que afecte a determinadas. Las mascarás son un peñazo, tanto en modo pintado (quick mask) como trazados... para mi es un programa un tanto obsoleto para composición. Para retoque va bien, aceptando la destrucción de pixeles.
Y tiene otros inconvientes, como que la mayoría de filtros no funcionan a 16bit y 32bit, por no decir hasta la versión CS3 o CS2, no tenía profundidad a 32bit.
En definitiva y para mi, photoshop va bien para pintar texturas y tareas de pixelado, no para componer, o hacer composiciones que impliquen un trabajo non-destructive.
Como salto al Illusion de XSI, es un salto cualitativo respecto a photoshop, y con un método de trabajo pro. Yo sigo prefiriendo el manejo de capas, es más directo. Personalmente los nodos van bien cuando la composición empieza a ganar en complejidad, pero en composiciones pequeñas no me gustan mucho porque has de añadir cien nodos para hacer cosas muy simples. Lo ideal es un sistema hibrido. Y me parece que los flint/flame/inferno así lo tienen.
Al margen de esto... voy a ver eso del incandescense.