floating-point typeとは 意味・読み方・使い方

The operands can be of any real floating-point type.発音を聞く 例文帳に追加

オペランドには任意の実数の浮動小数点数型を指定できる。 - JM

Finally, the control means 15 converts the type of the integer type data in the register 14 to return into the floating point type data and stores the floating point type data in the memory 11.例文帳に追加

最後に、制御手段１５は、レジスタ１４の整数型データを型変換して浮動小数点型データに戻し、その浮動小数点型データをメモリ１１へストアする。 - 特許庁

When judging that floating point type data to be used for the floating point arithmetic are non-numbers, the CPU 12 performs backup processing substituted for the floating point arithmetic.例文帳に追加

ＣＰＵ１２は、浮動小数点演算に用いられる浮動小数点型データが非数である旨を判定したとき、同浮動小数点演算に代わるバックアップ処理を実施する。 - 特許庁

The CPU 12 calculates the floating point type data based on a sensor detection value, and converts the floating point type data into the fixed point type data, and stores each data in the RAM 13.例文帳に追加

ＣＰＵ１２は、センサ検出値を基に浮動小数点型データを算出した後、浮動小数点型データを固定小数点型データに型変換し、それら各データをＲＡＭ１３に格納する。 - 特許庁

To convert a sign of floating-point type data at high speed based on condition data.例文帳に追加

条件データに基づいて浮動小数点型データの符号を高速に変換する。 - 特許庁

The fuel correction coefficient CLRN is defined by a floating decimal point type 4-bite length.例文帳に追加

燃料補正係数ＣＬＲＮは浮動小数点型の４バイト長で定義されている。 - 特許庁

A microcomputer 11 in an engine control ECU 10 is provided with a CPU 12, a RAM 13, a ROM 14, an FPU (floating point unit) 15, etc., and the FPU 15 among them executes a floating point type operation.例文帳に追加

エンジン制御ＥＣＵ１０内のマイコン１１は、ＣＰＵ１２，ＲＡＭ１３，ＲＯＭ１４，ＦＰＵ１５等を備え、そのうちＦＰＵ１５は浮動小数点形式の演算を実施する。 - 特許庁

To enhance operation accuracy to a level comparable to that of a floating point type multiplier and adder by hardly increasing the hardware structure of a fixed point type multiplier and adder.例文帳に追加

固定小数点型乗加算器のハードウエア構成を殆んど増加させずに、演算精度を浮動小数点型乗加算器程度に向上させる。 - 特許庁