Los cuaterniones son una estructura matemáticas que vienen muy bien para las rotaciones.
Así a grandes rasgos, en las rotaciones clásicas, las rotaciones tienen un orden (primero en un eje, luego en otro y por último el ek que queda). Usando cuaterniones, las rotación se produce "a la vez" en los tres ejes. Eso te quita muchos problemas, pero sin embargo son poco intuitivas.. (esta explicación es un poco a la ligera)
No tienes porque saber usar cuaterniones, simplemente, en el menú que te indicaba antes, puedes cambiar las rotaciones a cuaterniónicas, puede que ese sea el problema
En mi reel puedes ver un cubo de rubick (está por el final del video)
http://www.agedito.com/Reels/ScriptingReel2006OnLine.html