el bsp2 es inestable dices? y para que esta entonces?
No, lo opuesto.
El BSP (BSP1) fue actualizado a favor de la nueva version BSP2 (presente en MentalRay 3.6+)
El environment variable que mencionan activa opciones del antiguo BSP, que no deberian usarse en la version nueva, actual. Es muy probable que tus renders sean inestables si usas el antiguo BSP en la nueva version.
El BSP2 es totalmente automatico, que es bueno. Optimizar el BSP es algo que se solia tener que hacer a mano y era facil que te salga mal. Ahora es automatico y no tienes que preocuparte de nada.