連続的に変化する距離に対して、距離センサは測定レートに応じた間隔で段階的に測定値を出力しますが、その段階的に出力する測定値の最小単位を分解能と呼びます。 一般的にはmmやμmで表現されますが、測定範囲を何段階に分割できるかの値をbit数にて表現することもあります。

測定値の平均値(真値とは限らない)を中心として測定値が上下に平均でどれだけ離れているかをσ(シグマ)を使用して表したものです。測定値の確率分布が正規分布に従っていると仮定すると、正規分布関数から、-σ〜+σの間に約半分の測定値が含まれるということが分かります。1σ=1の場合にはしたがって正規分布グラフに示される全標本の約68.26％が評価の対象となっていると考えられます。

測定確度と繰り返し精度

温度変化に対し、測定器が受ける影響によって起こる測定値の変動量。
代表例： 0.2mm/K；Kは絶対温度単位ケルビン、基本単位は℃と同じです。

測定を開始してから、測定値の解析過程を経て、シリアル出力や制御出力など各種出力の完了までの1サイクルに要する時間。各々の距離センサにはそれぞれ独自のプロセスがあり、その全プロセスを全て完了するまでに必要な時間であって、データシートの応答時間未満で出力信号が得られる場合があります。(出力リクエストが可能なセンサの場合、リクエストが発信されてからの時間ではありません。リクエスト信号を受け付けてから、直後の測定サイクルに開始された測定分の出力が応答時間分をかけて出力されます。)

シリアルデータの伝送スピード、測定値やその他のデータの通信スピードをボーレートにて表しています。ボーレート(baud rate)はこのカタログ内ではbps(bit per second)に同様、一秒間に送信できる最大のbit数のことです。例）DME3000シリーズは7桁(または9桁)のASCIIキャラクタを距離測定数値として出力します、1桁のASCIIキャラクタはスタート・ストップビットに7bitのデータビットおよびパリティの10bit構成ですので一つの数値データは70bit(または90bit)になります。一つの測定値を送信するのに要する時間は、9.6kbaud(キロボー)にて70bitが送信された場合、70÷9600で約7.3msとなります。