Несмотря на то, что слово «оптимизация» использует тот же самый корень, что и слово «оптимальный», процесс оптимизации весьма редко порождает оптимальную систему, поэтому всегда имеются уступки (tradeoffs).
Оптимизация должна проводиться с осторожностью. Тони Хоар впервые произнёс, и Дональд Кнут впоследствии часто повторял известное высказывание: «Преждевременная оптимизация — это корень всех бед». Очень важно иметь для начала озвученный алгоритм и работающий прототип.