Uhm, bien pensado puede que luego haya que normalizarlo...
En tal caso, despues de lo que he dicho necesitarias hacer:
R = r / raiz cuadrada de r*r + g*g + b*b
G = g / raiz cuadrada de r*r + g*g + b*b
B = b / raiz cuadrada de r*r + g*g + b*b
Dependiendo de como este escrito el shader necesitas el mapa normalizado o no, si suma el normal map antes de normalizar las normales entonces no hace falta.