Integer data typeとは 意味・読み方・使い方

Then, an integer computing unit 13 carries out integer computing for turning a part matching a sign bit of the floating point type data in the integer type data into a positive number.例文帳に追加

次に、整数演算器１３により、その整数型データにおける、浮動小数点型データの符号ビットに対応する部分を正の数にするための整数演算を行う。 - 特許庁

The CPU 12 substitutes integer type data for the floating point type data or performs operation using the integer type data as the backup processing without using the FPU 15.例文帳に追加

ＣＰＵ１２が実施するバックアップ処理としては、ＦＰＵ１５を用いることなく、浮動小数点型データに代わる整数型データを代入したり、或いは整数型データを用いた演算を実施したりする。 - 特許庁

Finally, the control means 15 converts the type of the integer type data in the register 14 to return into the floating point type data and stores the floating point type data in the memory 11.例文帳に追加

最後に、制御手段１５は、レジスタ１４の整数型データを型変換して浮動小数点型データに戻し、その浮動小数点型データをメモリ１１へストアする。 - 特許庁

The compressed data structure has regulations at each vertex, and can be extended by converting the integer type data into the floating decimal number type data and dividing with the scale value.例文帳に追加

圧縮されたデータ構造は各頂について規則的であり、整数型データから浮動小数点数型データへの変換とスケール値との乗算で伸張可能である。 - 特許庁

The quantity of data retrieval processing is reduced by handling a column of comparison operation results as an integer type.例文帳に追加

また比較演算結果の列を整数型として取り扱うことによりデータ検索処理量の圧縮を図る。 - 特許庁

A control means 15 temporarily converts the floating type data, of which an absolute value is to be found, into unsigned integer type data to load them from a memory 11 to a register 12.例文帳に追加

制御手段１５は、絶対値を求めたい浮動小数点型データを符号なし整数型データに一時的に型変換し、メモリ１１からレジスタ１２にロードする。 - 特許庁

A sign addition part 300 performs integer calculation of the target data supplied through the signal line 149 as integer type data to add the sign to the target data based on the sign data from the sign data generation part 200 and the target data from the signal line 149.例文帳に追加

符号付加部３００は、信号線１４９を介して供給される対象データを整数型のデータとして整数演算することによって、符号データ生成部２００からの符号データと信号線１４９からの対象データとに基づいて対象データに符号を付加する。 - 特許庁

If the output data type is an integer type, the block output is the maximum value representable by the output type or the converted output, whichever is smaller in the absolute sense.発音を聞く 例文帳に追加

出力データ型が整数型である場合, ブロック出力は, どちらか絶対値として小さい方の, 出力型または変換出力によって表される最大値となる. - コンピューター用語辞典