Não são muito diferentes; aliás, teria dificuldade em encontrar também uma diferença entre começo, início e princípio.
Registo
Começar é o verbo mais comum e é usado em todos os registos. Iniciar é mais usado na escrita e registos mais formais e principiar só mesmo na escrita.
Formas perifrásticas
Começar e principiar formam perífrases verbais com o gerúndio (esp. Brasil) ou a + <infinitivo> (especialmente em Portugal):
(1) Em 1974, os socialistas começaram cantando a «Internacional», a erguer o braço (como os romanos e os fascistas) ... mas de «punho cerrado» e, ainda, a tratar-se por «camaradas».
(2) No entanto, o padre de Barroso agachou-se na cova, e principiou a tirar seixos sarapintados de manchas amarelas, e laminados sobrepostamente.
Embora aqui o contexto não deixe dúvidas, frases deste género são ambíguas porque podemos interpretar "cantando" e "a tirar" com função adverbial. Com iniciar essa é a única interpretação possível (não forma perífrase verbal):
(3) A Bolsa de Nova Iorque teve uma semana de tendência mista, embora tenha iniciado a perder com alguma força.
(4) No quarto «set», ambos os tenistas aguentaram o serviço até ao nono jogo, que Sampras iniciou servindo um ás, que o árbitro julgou como sendo fora.
Também se pode dizer começar/principiar por + <infinito>, mas não iniciar por + <infinito>.
Iniciar como verbo intransitivo
O Aulete Digital mostra este exemplo:
(5) A semana iniciou com boas notícias.
Este uso é incomum. Geralmente usar-se-ia iniciar pronominalmente: iniciou-se. Começar e principiar não se podem usar usar pronominalmente.
Usos específicos de começar
Começar, em certos usos intransitivos e especialmente com por, parece dificilmente substituível por iniciar e principiar:
(6) Comecemos pelo primeiro.
(7) Começou pelo degrau de baixo.
(8) Começámos em último, mas chegámos à frente.
(9) As casas aqui começam nos 500 mil euros.
O Aulete Digital dá estas definições e exemplos:
- Iniciar (de determinada maneira). [tp. : A música começou altíssima.]
- Fazer sua estreia em algo, ou sua primeira experiência ou tentativa. [int.: A empresária começou vendendo jóias.]
- Fazer (algo) como início de ação, atividade, atuação etc. [tr. + por : Subiu ao palco para sua apresentação, e começou por contar uma anedota.]
Usos específicos de iniciar
Iniciar significa também:
- Ensinar ou introduzir alguém ou a si mesmo em alguma disciplina, grupo, comportamento, etc.: David Sylvian iniciou-o nos prazeres contemplativos de «Flight & Premonition» e «Flux and mutability». (significados 2 e 3 do Aulete Digital)
- Em informática, como sinónimo de arrancar (um programa, um computador) (significado 5 do Aulete); parece-me que como sinónimo de inicializar (significado 4 do Aulete) é raro o uso