плавающая запятая

Проблема станет более очевидна, если мы преобразуем дату не к целому значению, а к значению с плавающей запятой, как здесь:

The problem is more evident if we cast to a floating point value instead of an integer, like so:

Хендерсон, Кен / Профессиональное руководство по Transact-SQLHenderson, Ken / The Guru's Guide to Transact-SQL

The Guru's Guide to Transact-SQL

Henderson, Ken

© 2000 by Addison-Wesley

Профессиональное руководство по Transact-SQL

Хендерсон, Кен

© ООО «Питер Принт», 2005

© 2000 by Addison-Wesley

Число (точность), специфицирующее максимальное количество печатаемых символов в строке, или количество цифр после десятичной точки - для чисел с плавающей запятой, или минимальное количество цифр - для целого.

A number, the precision, that specifies the maximum number of characters to be printed from a string, or the number of digits after the decimal point of a floatingpoint value, or the minimum number of digits for an integer.

Керниган, Б.,Ритчи, Д. / Язык программирования СиKernighan, Brian W.,Ritchie, Dennis M. / The C Programming Language

The C Programming Language

Kernighan, Brian W.,Ritchie, Dennis M.

© 1988, 1978 by Bell Telephone Laboratories, Incorporated

Язык программирования Си

Керниган, Б.,Ритчи, Д.

© 1998,1978 by Bell Telephone Laboratories, Incorporated

© "Невский Диалект", 2001

Большинство так называемых «трансцендентных» функций разработано для наихудшего случая, т. е. внутри себя они даже целочисленный аргумент преобразуют в число с плавающей запятой с удвоенной точностью.

Most of the so-called "transcendental" functions are designed for the worst case—that is, they convert to double-precision floating point internally even if you give them an integer argument.

Макконнелл, Стив / Совершенный код: Практическое руководство по разработке программного обеспеченияMcConnell, Steve / Code Complete: A Practical Handbook of Software Construction

Code Complete: A Practical Handbook of Software Construction

McConnell, Steve

© 2004 by Steven С. McConnell

Совершенный код: Практическое руководство по разработке программного обеспечения

Макконнелл, Стив

© Перевод на русский язык, Microsoft Corporation, 2004

© Оригинальное издание на английском языке, Steven С. McConnell, 2004

Однако для работы с произвольными входными значениями с плавающей запятой ей требуется еще несколько дополнительных шагов по обработке отрицательных чисел и чисел из диапазона [-1,0, 1,0].

However, for this function to handle general floating-point input, a few extra steps are required to handle negative numbers and numbers inside the [-1.0, 1.0] range.

Снук, Грег / Создание ЗD-ландшафтов в реальном времени с использованием C++ и DirectX 9Snook, Greg / Real-Time 3D Terrain Engines Using C++ and DirectX 9

Real-Time 3D Terrain Engines Using C++ and DirectX 9

Snook, Greg

© 2003 by CHARLES RIVER MEDIA, INC

Создание ЗD-ландшафтов в реальном времени с использованием C++ и DirectX 9

Снук, Грег

© Перевод, макет и обложка «ИД КУДИЦ-ОБРАЗ», 2006, 2007

© 2003 by CHARLES RIVER MEDIA, INC

© 2005, 2007

© Translation 2005 by Kudits-Obraz

Например, если применить функцию AVG () к столбцу целых чисел, результат будет либо десятичным числом, либо числом с плавающей запятой, в зависимости от используемой СУБД.

For example, if you apply the AVG() function to a column of integers, the result will be either a decimal or a floating point number, depending on the brand of DBMS you are using.

Грофф, Джеймс Р.,Вайнберг, Пол Н. / SQL: Полное руководствоGroff, James R.,Weinberg, Paul N. / SQL: The Complete Reference

SQL: The Complete Reference

Groff, James R.,Weinberg, Paul N.

© 2002 by The McGraw-Hill Companies

SQL: Полное руководство

Грофф, Джеймс Р.,Вайнберг, Пол Н.

© Издательская группа BHV, Киев, 2001

© McGraw-Hill Companies, 1999

© Издательство "Ирина", Киев, 2001

Вы можете решить проблему переполнения промежуточных результатов так же, как и в случае целочисленного переполнения: изменив тип на длинное целое или число с плавающей запятой.

You can handle overflow in intermediate results the same way you handle integer overflow, by switching to a long-integer or floating-point type.

Макконнелл, Стив / Совершенный код: Практическое руководство по разработке программного обеспеченияMcConnell, Steve / Code Complete: A Practical Handbook of Software Construction

Code Complete: A Practical Handbook of Software Construction

McConnell, Steve

© 2004 by Steven С. McConnell

Совершенный код: Практическое руководство по разработке программного обеспечения

Макконнелл, Стив

© Перевод на русский язык, Microsoft Corporation, 2004

© Оригинальное издание на английском языке, Steven С. McConnell, 2004

Используйте целочисленные переменные вместо переменных с плавающей запятой.

Use integer instead of floating-point variables.

Макконнелл, Стив / Совершенный код: Практическое руководство по разработке программного обеспеченияMcConnell, Steve / Code Complete: A Practical Handbook of Software Construction

Code Complete: A Practical Handbook of Software Construction

McConnell, Steve

© 2004 by Steven С. McConnell

Совершенный код: Практическое руководство по разработке программного обеспечения

Макконнелл, Стив

© Перевод на русский язык, Microsoft Corporation, 2004

© Оригинальное издание на английском языке, Steven С. McConnell, 2004

Использование 128-разрядных регистров и дополнительного регистра для перемещения данных позволило улучшить модули, осуществляющие операции с плавающей запятой.

The floating-point and multimedia units have been improved by making the registers 128 bits wide and adding a separate register for data movement.

Мюллер, Скотт / Модернизация и ремонт ноутбуковMueller, Scott / Upgrading and Repairing Laptops

Upgrading and Repairing Laptops

Mueller, Scott

© 2006 by Que Corporation

Модернизация и ремонт ноутбуков

Мюллер, Скотт

© Que Corporation, 2004

© Издательский дом "Вильямс", 2006