el problema está en el gimbal lock, creo
no se como explicarlo claramente, pero bueno, mas o menos, es que la rotacion en "z" ejerce movimiento sobre la "y" y la "x". La rotación en "y" ejerce tambien peso sobre "x".
El problema casi siempre, pasa cuando el eje "y" se posiciona sobre cualquiera de los dos otros. Entonces, las rotaciones se vuelven locas. Selecciona el hueso que te hace eso, lo pones en rotacion "add" y mira a ver el frame que te da problemas, a ver si algun eje se ha "montado" sobre otro.
Si es asi, borra ese key y vuelve a guardarlo, teniendo en cuenta todo esto.
El don de la palabra no es lo mio, asi que si no has pillado nada (que no me extrañaria), pasate por la web de edharriss, que creo recordar que habia un tuto que explicaba todo esto del gimbal lock.