bueno, a priori o "Hello World" também é um Software. Claro que isso é apenas um exemplo colocando um ponto extremo para facilitar a análise, mas também quer dizer que sim pode haver softwares seguros.
Os grande problemas com o software são as interfaces que ele tem com o mundo externo, o escopo que tenta atingir e sua complexidade. Creio que quanto mais desses pontos tem um SW, mas ele é sujeito a falha.