spamsink: (lenin)
[personal profile] spamsink
Ребе, что должна возвращать функция min(NaN, -Infinity)?

Сравнение этих двух значений с помощью сишной функции fmin дает разные результаты в зависимости от использования -ffast-math при компиляции. Библиотечная функция возвращает -Infinity (хорошо хоть, что независимо от порядка аргументов, как могло бы быть при наивном способе), а команда процессора minsd возвращает NaN.
Upd: Всё еще забавнее: библиотечные функции fmin и fmax рассматривают NaN как "пусто", т.е. если один из аргументов - NaN, то возвращается другой.
This account has disabled anonymous posting.
If you don't have an account you can create one now.
HTML doesn't work in the subject.
More info about formatting
Page generated Mar. 5th, 2026 10:06 pm
Powered by Dreamwidth Studios