HOla:
depende que version usuas CE EE? si usuas Community, en mi experiencia mysql y postgres funcionan de maravillas, hemos implementado Alfrescos que ya tienen más de 6 TB de info. con mysql y no hemos tenido ningún inconveniente en ese sentidos, nunca use postgres por que no venia incluido en las versiones antiguas, ahora bien lo que si me preocuparía sera la arquitectura te recomiendo algo de 64 bits y unos 8 gb de memoria para asigna 4 a la jvm y obviamente distribuir la arquitectura para una performance optima, saludos.