Плавающая точка такая плавающая
Jan. 11th, 2019 09:22 amИзобретение стандартного формата компьютерного представления чисел с плавающей точкой (IEEE-754) и спецификация операций с ними - величайшее счастье для всех прикладных математиков мира.
В доисторические времена могло быть так:
И это не ошибка, а прямое следствие из механизма работы арифметического устройства. Попробуйте объяснить явление.
В доисторические времена могло быть так:
001 PROGRAM MAIN
002 I = 0
003 B = -1.0E-10
004 C = I+B
005 PRINT 20,B,C
006 20 FORMAT(1X2E20.12)
007 END
*EXECUTE
-1.000000000000-10 -1.000444171950-10
И это не ошибка, а прямое следствие из механизма работы арифметического устройства. Попробуйте объяснить явление.
no subject
Date: 2019-01-11 06:53 pm (UTC)no subject
Date: 2019-01-11 09:19 pm (UTC)no subject
Date: 2019-01-11 11:19 pm (UTC)А вот мне пришел в голову более интересный вариант: при сложении теряется младщий разряд. Поскольку может случиться переполнение, возможно они, условно говоря, добавляют раздяд сверху за счет отбрасывания разряда снизу. А потом смотрят, и если разряд сверху пустой, то сдвигают мантиссу влево, если непустой, то добавляют единичку к порядку.
no subject
Date: 2019-01-12 05:28 am (UTC)no subject
Date: 2019-01-13 04:54 am (UTC)no subject
Date: 2019-01-12 09:11 pm (UTC)Тред не читал.
Оно?