A ver... en simulacion para que siempre 2 + 2 sea 4 te aconsejo usar el cache... Y si bien concuerdo que xsi nos brinda diariamente muchas sorpresitas, no siempre es culpa del programa.
Algunos consejos segun la escena
*Cambia el Play Mode a Standard y pon Cache, asi puedes simular y luego mover la linea de tiempo hacia atras sin sorpresas.
*El cilindro, subdividilo mucho, ya que como te puse arriba, cuando usas el modo Actual Shape, es mejor que tenga muchos poligonos... Tambien freeza el objeto antes de aplicar RBD, a veces complica tener operadores funcionando (que en este caso no necesitas)
*El mas importante en este caso, y que seguro este solo te arregla el problema, sube los SubSteps a 20.
Para cambiar la distribucion de las pelotas puedes cambiarle la masa, por ej. si pones en las pelotas de tenis con masa 10 te quedan todas abajo.
Tu problema era que las pelotas mas grandes chocaban a las chiquitas y las sacaban del recipiente.
www.animarte-3d.com.ar/Test_canicas2.zip