![[personal profile]](https://www.dreamwidth.org/img/silk/identity/user.png){kind=small}
spamsinkРебе, что должна возвращать функция min(NaN, -Infinity)?
Сравнение этих двух значений с помощью сишной функции fmin дает разные результаты в зависимости от использования -ffast-math при компиляции. Библиотечная функция возвращает -Infinity (хорошо хоть, что независимо от порядка аргументов, как могло бы быть при наивном способе), а команда процессора minsd возвращает NaN.
Upd: Всё еще забавнее: библиотечные функции fmin и fmax рассматривают NaN как "пусто", т.е. если один из аргументов - NaN, то возвращается другой.
Сравнение этих двух значений с помощью сишной функции fmin дает разные результаты в зависимости от использования -ffast-math при компиляции. Библиотечная функция возвращает -Infinity (хорошо хоть, что независимо от порядка аргументов, как могло бы быть при наивном способе), а команда процессора minsd возвращает NaN.
Upd: Всё еще забавнее: библиотечные функции fmin и fmax рассматривают NaN как "пусто", т.е. если один из аргументов - NaN, то возвращается другой.
no subject
Date: 2014-12-12 06:44 pm (UTC)no subject
Date: 2014-12-12 06:59 pm (UTC)no subject
Date: 2014-12-12 07:05 pm (UTC)