La vista previa de documentos en la version 4 se basaba en la conversion en swf del fichero, esto se hace usando openoffice (o LibreOffice en las ultimas distribuciones) y el pdf2swf de las swftools, en la version 5 hemos implementado un nuevo visor en html5 que no necesita del paso a swf y la visualizacion se hace con la version pdf del documento.
Por ello revisa la instalacion de las diferentes herramientas de conversion por si alguna no esta correctamente referenciada en tu global properties.