a) Togliendo il DOCTYPE il rendering passa dalla modalità standard a quella quircks, quindi è normale che cambi il risultato
b) Stai usando un layout a tabelle, cosa che non si usa ormai da anni. È quasi inevitabile che tu vada incontro a problemi di visualizzazione cross-browser
c) Parte del problema si risolve mettendo un margin: 0 sul body, rimane la colonna di destra leggermente spostata. In ogni caso il problema è più di "sviluppo web" che non di Firefox, per cui è più probabile ottenere aiuto su un forum che si occupi in modo specifico di questo argomento
Per concludere, non è detto che l'errore sia del motore di rendering Firefox, ma per confermare/escludere questa possibilità servirebbe un caso minimo in grado di riprodurre il problema.