арифметическое переполнение


Русская Википедия - свободная энциклопедияDownload this dictionary
Арифметическое переполнение
Арифметическое переполнение — специфичная для компьютерной арифметики ситуация, когда при арифметическом действии результат становится больше максимально возможного значения для переменной, использующейся для хранения результата.

Пример:
Сложение двух переменных размером 8 бит с записью результата в такую же переменную:

110100102
+
001111012
---------------
1000011112 — возникает переполнение.
При этом в результат записывается не ожидаемое , а . Если не проверять, было ли переполнение, то может возникнуть логическая ошибка в программе, о чем в некоторых случаях во время исполнения не узнает ни платформа, ни операционная система, как, например, в Java.


Продолжение на Wikipedia.οrg...


© Текстовое содержимое использует материал из Википедии® и доступно в соответствии с лицензией свободной документации GNU