
Você deve ir no diretório onde está instalado o OpenFire e lá, entrar na pasta bin.
Aqui você terá de escolher uma das 2 condições:
1 - Se você utiliza o OpenFire como serviço configurado no Windows, crie um arquivo com o nome openfire-service.vmoptions e dentro dele coloque os parâmetros abaixo um em baixo do outro como estão.
Lembrando que o primeiro parâmetro diz a grosso modo com quanto de memória a virtual machine para este serviço irá reservar de memória inicialmente e o segundo é para o máximo que ela poderá chegar. Portanto, você pode setar o primeiro com 1024 e o segundo com 2048 se quiser e assim por diante, mas é claro, você tem que ter memória disponível para isso, caso contrário o OpenFire nem irá iniciar.-Xms512m
-Xmx1024m
2 - Se você não utiliza o OpenFire como serviço, crie um arquivo com o nome openfired.vmoptions dentro do mesmo lugar e coloque os parâmetros como descritos acima no primeiro passo.
3 - Em seguida, reinicie o serviço do OpenFire.
Após a alteração acima, deverá ficar como na figura abaixo.

E era isso...