Se você já ouviu música digital - especialmente qualquer tipo de formato de áudio com perdas - então você foi exposto a quantização matemática. Este processamento de sinais digitais nos bastidores é bastante comum e na maioria das vezes uma função integral do software de áudio moderno ou hardware (por exemplo, conversores digital-analógico). Mas a quantização não se limita apenas ao áudio. O termo e seus usos também se aplicam a outros campos, como física ou imagem digital.
Em um estúdio de gravação, os microfones captam ondas sonoras de música analógica, que são então processadas em um formato digital. O sinal pode ser amostrado em 44.100 Hz e quantificado com 8, 16 ou 24 bits de profundidade (e assim por diante). Profundidades de bits mais altas fornecem mais dados, o que permite conversão e reprodução mais precisas da forma de onda original.
Fundamentalmente, a quantização é um processo complexo de arredondamento que envolve algum nível de imprecisão. Computadores operam em uns e zeros, e é por isso que a conversão analógico-digital é considerada uma aproximação aproximada e não uma cópia exata. Quando se trata de música, não apenas o sinal quantizado deve manter a sucessão correta e a amplitude dos valores, mas o tempo também precisa ser preciso. O processo deve assegurar que o ritmo musical seja mantido, com notas distribuídas uniformemente e ajustadas nas mesmas batidas (ou frações dele). Caso contrário, o áudio pode acabar soando estranho ou ouvir os ouvidos.
Esse conceito de quantização pode ser observado visualmente com um programa de edição de imagens, como o Photoshop. Quando uma imagem grande é reduzida em tamanho, há uma perda de informações de pixel devido ao processo matemático que manipula a tarefa. O software executa os cálculos e arredondamentos para descartar pixels indesejados, ao mesmo tempo em que preserva a integridade geral, a proporção e o contexto das proporções restritas na imagem é tão essencial para as fotos quanto o ritmo da música. Ao ampliar e comparar a versão redimensionada da foto ao original, as bordas e os objetos tendem a parecer um tanto grosseiros ou irregulares. Este aspecto visual da compactação com perdas relaciona-se de maneira similar aos tipos de arquivos de áudio digital. Mais dados e / ou menos compressão resultam em maior qualidade geral.