Hai usato la versione con l'installer per installare Firefox la prima volta?
Non riesci a disinstallarlo? Che errore ottieni?
Se puoi disinstallarlo fallo, tanto non perdi le tue configurazioni... Poi reinstalli la nuova...
Altrimenti credo tu debba cambiare il nome alla cartella che contiene Firefox e poi installare una nuova versione in una cartella con lo stesso nome della precedente, magari usando la versione .zip che puoi scaricare dal nostro sito...