O ditongo "ui" na palavra "muito" é anasalado, devido à assimilação do som nasal [m] inicial, que se estendeu ao ditongo oral "ui", fazendo com que a palavra se leia [ˈmũj̃tu]1.
O ditongo nasal é composto por uma vogal seguida de uma semivogal (sendo que na língua portuguesa existem duas semivogais: [j] e [w]), como nas palavras "mãe", "anões", "adopção", etc.
A nasalidade em "muito" não é marcada graficamente, sendo feita a marcação apenas foneticamente. De acordo com este artigo, será esta o único caso em toda a língua portuguesa onde não há representação gráfica da nasalidade. Não consegui encontrar a razão de existir esta excepção, no entanto.
Ver ainda esta página e esta outra como referência.
1 De acordo com esta página, será essa a única maneira de pronunciar. O Wikcionário faz distinção entre [ˈmwĩ.tu] em português europeu/de Portugal e [ˈmũj.tu] em português do Brasil. No entanto, parece-me que, de acordo com esta página e esta também, qualquer uma destas possibilidades acabe por ser pronunciada da mesma maneira, não tendo eu conseguido perceber nenhuma diferença entre nenhuma destas variações de representação fonética.