Uma vez gerado o código, é possível perceber que a tradução direta de um programa para uma linguagem de máquina nem sempre resulta na sequência mais eficiente de instruções.

Muitas vezes, há redundâncias, operações desnecessárias ou maneiras mais rápidas de atingir o mesmo resultado.

A fase de otimização de código é responsável por identificar essas oportunidades e transformar o código para que ele execute de forma mais rápida, consuma menos memória ou energia, sem alterar seu comportamento.

A otimização pode acontecer em diferentes momentos do processo de compilação, tanto no nível de código intermediário quanto no nível de código de máquina.

Ao trabalhar sobre a representação intermediária, o compilador pode fazer substituições que são mais independentes da arquitetura específica, como eliminar cálculos repetidos, simplificar expressões ou reordenar instruções para melhor paralelismo.

Já no nível de código de máquina, as otimizações consideram diretamente o hardware, como a organização dos acessos à memória para evitar atrasos de cache ou o uso eficiente de instruções específicas do processador.

Uma das técnicas mais conhecidas é a eliminação de código morto, que remove instruções que calculam valores que nunca são utilizados.

Outra técnica importante é a propagação de constantes, onde valores conhecidos são substituídos diretamente no código, simplificando operações futuras.

Também é comum a aplicação da movimentação de código, deslocando cálculos para fora de laços sempre que possível, reduzindo o número de instruções executadas repetidamente.