Andei pesquisando gramáticas dos séculos 16 ao 19 em busca de comentários sobre a grafia do artigo "hũa/huma" e sobre sua realização vocálica /ũ(w̃).a/ e consonantal /ũ.ma/. A partir daqui usarei os termos "pronúncia vocálica" e "pronúncia consonantal" para referir às respectivas pronúncias possíveis dessa palavra.
Eis abaixo as citações relevantes que encontrei.
Tomei liberdade para transcrever o texto à ortografia e à pontuação atual, exceto que, para as transcrições ortográficas, marcadas entre ⟨chevrões⟩, mantive a grafia do autor; enquanto que substituí as transcrições fonéticas do autor, por transcrições no Alfabeto Fonético Internacional, marcadas entre /barras/. Tomei liberdade também de inserir alguns parênteses, quando fez-se necessário explicar algo.
A primeira citação é «Orthographia, ou a arte de escrever, e pronunciar com acerto a lingua portugueza. Segunda edição. ¶164—165», pelo trasmontano Madureira Feijó em 1739 (primeira edição em 1734).
§ Como se há de pronunciar a palavra ⟨huma⟩
¶164 Entre pessoas sábias e doutas se altercou a dúvida (sobre) se esta palavra ⟨huma⟩ se havia de pronunciar ferindo com o ⟨m⟩ o ⟨a⟩, deste modo /u.ma/; ou unindo o ⟨m⟩ ao ⟨hu⟩ e separando o ⟨a⟩, deste modo /ũ(w̃).a/. E como a dúvida passa-se a teima, fui consultado para a decisão, e respondi que, por uso, se pronunciava do primeiro modo; mas que, pelo rigor da arte, se devia pronunciar do segundo por duas razões: a primeira é porque a palavra ⟨huma⟩ compõe-se de ⟨hum⟩ acrescentando a partícula ⟨a⟩, assim como ⟨boma⟩ (feminino de "bom", na época pronunciado como hiato nasal-oral /bõ(w̃).a/, encontra-se também escrito como ⟨bõa⟩ em textos mais antigos), na opinião dos que a pronunciam com ⟨m⟩, compõe-se de ⟨bom⟩, acrescentando a partícula ⟨-a⟩ para o gênero feminino. E se ninguém pronunciaria /bo.ma/ ferindo com o ⟨m⟩ o ⟨a⟩, também não devemos pronunciar /u.ma/ ferindo do mesmo modo. O mesmo se vê na palavra ⟨alguma⟩, derivada de ⟨algum⟩, que melhor se pronuncia /algũ(w̃).a/ do que /algu.ma/.
¶165 A segunda razão, a que não ouvi resposta, é que muitos, ou todos os que doutamente escrevem ⟨hũa⟩ e ⟨algũs⟩ com til por cima do ⟨u⟩, suprindo o m, mas assim é, que o til nunca fere na pronunciação alguma vogal, nem se pode pôr em lugar do ⟨m⟩ nas mais palavras, em que o ⟨m⟩ fere alguma vogal. Logo é certo que nas palavras ⟨huma⟩ e ⟨alguma⟩ o ⟨m⟩ não fere a vogal seguinte, e deve pronunciar-se /ũ(w̃).a, algũ(w̃).a/, ou se escrevam com ⟨m⟩ ou com til.
Já por 1739 se discutia a pronúncia do artigo. O autor refere-se à pronúncia consonantal /u.ma/ como sendo a pronúncia popular pelo uso; enquanto que a pronúncia vocálica /ũ(w̃).a/ é a pronúncia dos "doutos" pelo rigor da arte. Ele compara com a pronúncia de "boa" (na época "bõa") que sofria do mesmo problema: um hiato nasal-oral com ambiguidade na grafia e pronúncia, ambiguidade essa que hoje não mais existe, já que /õ(w̃).a/ deixou de ser um hiato nasal (da mesma forma que "lua" deixou de ser "lũa").
A segunda citação é «Orthographia da Lingua Portugueza ¶290», pelo tipógrafo português Joaquim José Ventura da Silva em 1834:
§ Lição III. Do Til e seu uso
[...]
¶290. As palavras ⟨huma, alguma, nenhuma⟩ podem-se escrever ⟨hũa, algũa, nenhũa⟩, porque o ⟨m⟩ não fere a vogal ⟨a⟩, por serem estas palavras compostas de ⟨hum, algum, nenhum⟩ acrescentando-lhes a partícula ⟨-a⟩: donde se segue, que o ⟨m⟩ nestas palavras soa com a vogal antecedente, e não com a subsequente, e por isso é que se podem escrever com til porque este nunca fere a vogal.
Esta citação é mais breve, mas dela pode-se deduzir que em 1834, um ano após a publicação da citação anterior, a pronúncia vocálica ainda existia.
A conclusão é que ambas as grafias ⟨hũa⟩ e ⟨huma⟩ coexistiram na língua durante um bom tempo até que a forma arcaica passasse a ser usada por escritores mais conservadores, culminando com seu desuso total.
A medida que eu encontrar novas citações relevantes, editarei esta resposta. Também listarei em anexo os dicionários da época que listavam ambas as formas como possíveis.
Luís de Camões, Os Lusíadas, canto nono, 1571 (BNP).
