Yo en estos casos "spliteo" la cara creando dos triangulos al reves de los que te vienen por defecto.
Esto no se si sera lo que yo creo, he probado a triangular hacia la derecha la cara en la que el shading hace un "triangulo" hacia la izquierda, ¿es eso?, porque si lo es, tampoco funciona.
Puedes aplicar el valor minimo de smoothing angle que te sea optimo para las partes con menor ángulo entre poligonos y desconectar las partes donde requerería un valor del smoothing angle menor, así no se aplicará el smoothing entre esos poligonos.
Tendrás "islas" de poligonos sueltos, pero no sé si eso supone un problema para el engine.
El motor permite que las caras esten desconectadas, pero el modelo tiene que ser un conjunto, y el modelo completo (tiene 2 piezas mas, entre ellas un cilindro) tiene que ser de una pieza para poder exportarlo, de todas formas, por lo que he podido comprobar, a la hora de "bakear" el normalmap, el tener caras desconectadas tiene el mismo efecto que el hard edge. Adjunto el bake que he hecho del modelo original terminado (tiene un bevel en los bordes, pero los errores de shading siguen fastidiando).
Y yo pregunto, ¿se puede hacer un geometry approximation solo a los poligonos que yo necesite?, creo que seria lo mas parecido al smoothing groups de 3DMax.