La base de datos la configuras tu durante la instalación. Hasta la 3.4 creo recordar que por defecto trae mysql, a partir de esa versión PostgreSQL. Pero vamos, de igual forma tu puedes configurarla en la que desees. Para esto una vez tengas instalado tu alfresco deberás tocar el archivo alfresco-global.properties de tu instalación y "apuntar" a la BBDD que hayas elegido.
Hola, En principio puedes usar casi cualquier cosa que hable SQL y tenga un driver JDBC pero como orientacion te sugiero que eches un vistazo a las plataformas que han sido certificadas por el departamento de QA de Alfresco como 100% compatibles con Alfresco Enterprise: