Se il problema persiste, il principale sospettato diventa hyperwords.
Se anche disattivando questo componente non dovessi risolvere, ti consiglio di tentare con un profilo pulito. Io passando a FF 3.5 ho preferito rifarmi il profilo da zero, e ho risolto vari problemi. Dato che il tuo è molto semplice, dovresti poterlo fare senza difficoltà.
Ci sono alcuni parametri in FF che consentono di gestire l'utilizzo di memoria. Certo, il tuo caso è anomalo, ma se il porblema non dovesse essere legato ad un'estensione, potremo provare ad utilizzare impostazioni di uso memoria più conservative.
PS: Per Tab Mix Plus trovi la versione dev che è compatibile sul loro sito, la sto usando e funziona bene.