Firefox for Android, come anche Chrome, sono browser pesanti rispetto a quello di default, molto più golosi di ram e risorse (e lo noto sul mio s3..)
Semplicemente perchè ha molte più funzionalità, a partire dai plugin, passando per Firefox Sync, la modalità lettura, il motore javascript (molto più avanzato e completo rispetto ai browser di default), per finire con il Marketplace e l'ambiente che permette il supporto delle webapp.
Insomma, non è il tuo telefono che è incompatibile, anche perchè il requisito minimo è Android 3.0, ma probabilmente le risorse che può fornire il tuo dispositivo non sono del tutto sufficienti.
Aronne