Um ponto é unânime (veja, e.g., aqui e aqui): não se usa o "apóstrofo + s" para indicar plural. Na língua inglesa raramente ele é aceitável (essencialmente apenas para o plural de letras minúsculas) e em português o mecanismo simplesmente não existe.
O plural do ordinal "1º" é fácil, pois ele flexiona da maneira usual:
o 1ᵒ colocado, os 1ᵒˢ colocados, a 1ᵃ a chegar, as 1ᵃˢ da fila, os 2ᵒˢ colocados, as 3ᵃˢ nas listas, etc.
No entanto, me parece uma abreviação deselegante para o ordinal como adjetivo, como no exemplo da pergunta (que ficaria "Tenho várias 1ᵃˢ coisas na lista de compras"), embora eu não encontre fonte que coloque como incorreto.
(Não confundir com o símbolo para grau=1/360 da circunferência que, por se tratar de unidade de medida, não flexiona: "1°", "2°", etc.)
Já o "1" é um símbolo, não uma palavra, o que significa que qualquer tentativa de pluralizá-lo pode suscitar discussões. Quando escrito por extenso, seu plural costuma ser aceito e a situação é mais simples ("os seus zeros/uns são descartáveis"), embora alguns números, como "dez" e "seis" tenham a mesma forma no singular e no plural (ver aqui e aqui). Mas a pergunta é sobre o "1", não "um".
Símbolos seriam invariáveis:
As abreviaturas admitem flexão em género e em número (p. ex.: eng.ᵃ; n.ᵒˢ ), enquanto os símbolos permanecem invariáveis (p. ex.: 25 L; 75 kg; 35 cm; 3 h; 30 ºC).
Mas eu remeteria à discussão sobre o plural de siglas, como em "os CDs": em que a posição prescritiva dominante, especialmente em pt-PT, é a de que o plural com 's' não é aceitável (ver aqui, aqui, aqui e aqui, entre outros), contrastando fortememente com a língua em uso, especialmente em pt-BR que, há décadas, consagra o plural "CDs" (uma busca na rede revela inúmeros exemplos, como: Folha, 1999, Deutsche Welle, 2004, Contigo, 2020). O que sugere a necessidade de uma flexibilização nesse ponto, uma flexibilização já defendida em 1999 pelo autor D´Silvas Filho:
Eu actualizaria essa regra do plural das siglas para: 'as siglas normalmente não precisam de plural, mas nada impede que o tenham'. Noto que, por exemplo, as Selecções do 'Readers Digest' registam na sua revista de Maio deste ano, p. 62: « ….. CD-ROMs cheios …..». Aqui o símbolo de plural, de facto, poderia ser dispensado. Dispensado, mas não condenado, no meu ponto de vista.
Desse ponto de vista, deveria ser possível escrever o exemplo da pergunta como:
Em binário, escreve-se em 1s e 0s.
Embora, pessoalmente, eu provavelmente optaria por uma construção como:
Em binário, escreve-se usando (apenas) os símbolos "0" e "1".