Acho que seria melhor você ir pesquisar em livros e em enciclopédias em vez de querer que te digam tudo num fórum, porque é meio extenso. Vou tentar colocar de forma bem resumida, mesmo assim. Não sei se é 100% condizente com as teorias mais aceitas, mas no geral é algo parecido.
Em dado momento, antes de existir o sistema solar, o Sol e os planetas que orbitam em torno dele, haviam apenas um aglomerado de massa, gás e partículas, preso em si mesmo pela própria gravidade, uma nuvem de poeira e gás espacial. A coisa não teria como ficar assim para sempre, isso não seria possível, logo as partículas começaram a se acumular em porções cada vez maiores, principalmente no centro gravitacional, que eventualmente virou o sol, porque acumulou tanta massa que a força gravitacional causa todos os eventos nucleares e etc, que fazem dele o sol. Em torno do sol, flutuava ainda uma "aba", como a aba de um chapéu, de gás e poeira (a gravidade tende a fazer a matéria se organizar nessa forma, em vez de uma "esfera" e gás e poeira).
Como ocorreu no centro, em várias partes iam concentrando-se mais e mais massa, formando pequenos asteróides, que eventualmente se chocavam, se despedaçavam, seus destroços perdiam velocidade, e viajavam juntos unidos pela gravidade de todos, até que formassem um asteróide maior somando a massa dos dois, e mais alguma massa que tivesse sido capturada por lá. E etc. Ficavam ocorrendo esse tipo de eventos até haver "planetóides", já mais parecidos com os planetas atuais, e um monte de asteróides menores.
Conforme a massa ia se acumulando, a massa do anel de poeira, ia logicamente, diminuindo. Assim os planetas não podem ir aumentando indefinidamente. Ainda podem aumentar, de qualquer forma, mas o acréscimo de massa é cada vez menor, porque a matéria da nuvem de matéria que originou o sistema solar é cada vez mais escassa, porque está agora concentrada nos planetas ou em alguns cinturões de asteróides, e cometas errantes, e o acréscimo de poeira ou mesmo de uns poucos cometas e asteróides que caem, comparados com as concentrações planetárias de massa, são muito pequenas. Logo o planeta não deveria estar crescendo muito mais do que estiver.
Eu não sei bem a origem dos compostos químicos; muitos deles estavam nessa nuvem de matéria, outros provavelmente vieram a existir depois, por reações químicas, os elementos não são eternos, eles se transformam por perderem ou ganharem subpartículas. A "primeira" origem dos compostos químicos, acho que atualmente é defendida como tendo ocorrido no "período inflacionário" do universo (um período em que o universo teria aumentado enormente de tamanho em algo como segundos ou mesmo frações de segundo), ou talvez até antes.
Seja lá como for, não se precisa saber a origem de tudo exatamente para se ter teorias testáveis sobre o desenvolvimento posterior das coisas; basta que se assuma que tal coisa (como planetas, ou elementos químicos) já existissem. Por exemplo, as teorias da gravidade explicam muito bem como a matéria se atrai, mesmo que não se tivesse a menor idéia de como a matéria surgiu. Simplesmente não têm a menor importância para a teoria da gravidade, mesmo que ela precise de matéria para funcionar.
