Antes de cerca do século I a.C. (antes de Cristo), os romanos não tinham palavras específicas para as frações, eles não tinham nenhum nome para 1/7, mas tinham semis (1/2), triens (1/3), quadrans (1/4), septunx (7/12), dentre outros. No período clássico, os romanos começam a usar os ordinais, de tertius em diante, para frações, então, tertius designava tanto 1/3 quanto 3º — inclusive diziam tertia pars, terça parte.
A palavra "terceiro" se origina de tertiarĭus, que significa "que contém um terço" e, no latim medieval, também "Ordem terceira" (ordem religiosa de leigos católicos). Já se usavam "terço" (ou "teerço") e terceiro (ou "tercer") no século XIII. No francês e no italiano também há distinção, e inclusive têm as mesmas origens, tertĭus para os fracionários (1/3) e tertiarĭus para os ordinais (3º).
Em português, em algum momento entre 562, quando começou a usar-se terça-feira, e 1200, quando tercer/terceiro já se usava, o uso de terço quase se restringiu ao fracionário, sendo terço como ordinal pouco usado.
Fontes: Literary Evidence for Roman Arithmetic with F vidence for Roman Arithmetic with Fractions e A polissemia dos ordinais, do latim ao português: a permanência de um fenômeno lingüístico.
Mais especulativamente:
Uma suposição poderia portanto ser que essa distinção tenha começado no latim e que as duas palavras se mantido no vocabulário por conta das ordens religiosas e, possivelmente devido ao claro caráter hierárquico da palavra, dominou (comparado a ‘terço’) o sentido ordinal.
Claro que isso é especulativo e, na mesma linha, ‘segundo’ tem um sentido quase pejorativo de menor importância, o tornando natural para o uso como ordinal, enquanto o conceito de dividir na parte central, no ‘meio’, é bastante evocativo para se referir à metade, 1/2. — [Stafusa, usuário do site.]
Havendo duas opções para 3º, terço e terceiro, a palavra terceiro começou a ser mais usada, porquanto terço poderia causar ambigüidades” — [Schilive, usuário do site.]