Non è un bug è una variazione di comportamento. Sembra che sia necessaria una utility come, forse, quella di cui hai messo il link, oppure una modifica al registro di Windows, oppure dovranno fare qualche adeguamento quelli di PortableApps.
Per ora non ti so consigliare su quale sia la migliore strada da seguire. Seguendo la discussione su PortableApps dovrebbe venir fuori questa soluzione.