Você não deve editar o arquivo repository.properties em hipótese alguma. Qualquer ajuste nesse arquivo será perdido caso o Tomcat refaço o deploy da aplicação.
Isso vale para qualquer propriedade do Alfresco, não somente para os relacionados com as cotas.
A forma correta de fazer o ajuste é copiar as propriedades para as quais você pretende alterar os valores, no caso:
system.usages.enabled=true
system.usages.clearBatchSize=0
system.usages.updateBatchSize=50
Cole essas propriedades no arquivo alfresco-global.properties, altere os valores como quiser e restarte o serviço.
Quanto ao fato dos valores não estarem sendo atualizados, por acaso você criou documentos com os usuários existentes após ativar o controle de cotas?
Eu creio que o Alfresco não vá recalcular simplesmente habilitando (eu não testei isso, então não tenho certeza).
Tente usar um dos usuários existentes para criar um novo objeto só para verificar se o valor será recalculado.
Se funcionar, você poderia usar um "jeitinho", e fazer o mesmo com todos os demais, criar um conteúdo temporário só para forçar o recálculo, e então apagar.
Me avise se funcionou ou se precisar de ajuda.
