Internet não é muito o meu ramo, sou programador de C++, visual basic e Perl, uso o IE, sei que possui inúmeras falhas explorada, mas sei também que por ser mais popular se torna alvo de mais "estudos a proucura de falha" por especialistas e fraudadores.
O firefox é um browser muito mais seguro, porém tem incompatibilidades com muitas páginas, quem navega em diversas páginas diferente pode ter algum problema.
Deixar o IE com o firefox também reduz a segurança que o firefox proporciona, pois alguns programas maliciosos detectam o IE no sistema e tentam forçar um Upload/download da maquina.
Existe a possibilidade do bloqueio total do IE
http://www.litepc.com/download/IEradicator2001.zip, porem não é aconselhável pois desabilita o windows update do sistema, sem contar que no XP além de não recomendado pode causar danos desastrosos.
Novos e mais seguros todos os sistemas sofrem com a incompatibilidade o que acaba deixando sempre a microsoft por cima.
Podemos falar mesmo do próprio Linux que é uma beleza de sistema operacional em termo de segurança e estabilidade, porém "Jogos populares" que são um prato cheio para usuário comuns, o Linux deixa a desejar.
Na informatica vivemos o conflito Segurança v Praticidade