Si quieres calidad, lo mejor en mi opinión, es hacer stream con Divx, aunque no está tan extendido como el player de flash, y el soporte en web-browsers tampoco.
También puedes hacer streaming con el formato .mov codificando en H264, bajo el player de Quicktime.
Lo que es necesario en cuanto al servidor, es tener mucho ancho de banda para la subida.