度(Precision)是指使用同种备用样品进行重复测定所得到的结果之间的重现性。测量度（也常简称精度）高，是指偶然误差与系统误差都比较小，这时测量数 据比较集中在真值附近。虽然度高可说明准确度高，但的结果也可能是不准确的。误差是准确度的表示，是实测值与真实值偏离程度，而偏差是精密度的表示，是平行测量间的相异程度。 准确度表示测量结果的正确性，精密度表示测量结果的重复性和重现性，精密度是准确度的前提条件。 普通意义的分辨率（resolution）就是屏幕图像的精密度，是指显示器所能显示的像素的多少。对于光栅尺而言是指可以测量的小单位.对于传感器的分辨率与精度的理解，可以拿千分尺为例，分辨率代表千分尺可以读到小数点后几位，但精度还与尺子的加工精度，测量方法有关系。 同样的，在光栅尺的使用中，分辨率与精度是*不同的两个概念。
       光栅尺的分辨率，是指光栅尺可读取并输出的长度变化，对应的参数有：每毫米光栅刻线数、脉冲数、细分等。比如50线光栅和100线光栅在同等条件下分辨率就不一样，同等的50线光栅如果细分方法不一样分辨率也会不一样。
        光栅尺的精度，是指光栅尺输出的信号数据对测量的真实长度度的准确度，对应的参数是微米（μm）、纳米（nm）.目前国内光栅尺分辨率一般有5μm、1μm、0.5μm、0.2μm、0.1μm。那么这些分辨率是怎么得来的呢？ 以每毫米50线光栅为例，经过4细分，就能得到很简单的5μm的分辨率，而不用采用电子细分，这也是目前国内海德汉机床尺的多数工艺，至于高分辨率的光栅尺，就必须采用电子细分技术，增加插补细分器才能得到。高分辨率光栅尺一般应用于仪器仪表如视频仪、工具显微镜、CNC加工中心等。
影响光栅尺测量精度有如下几个方面：
A：光学部分  B：机械部分  C：电气部分  D：使用中的安装与传输接收部分，使用后的精度下降，机械部分自身的偏差。
A、光学部分对精度的影响：
光栅尺玻璃—主要的是母尺精度、每毫米刻线数、刻线精度、刻线宽度一致性等。
光发射源—光的平行与一致性、光衰减。
光接收单元—读取误差、读取响应。
光学系统使用后的影响—污染，衰减。
B、机械部分对精度的影响：
安装精度。轴承的精度与结构精度。光学组建安装的精度。 例如，就轴承的结构而言，单轴承支撑结构的轴承偏差无法消除，而且经使用后偏差会更大，而双轴承结构或多支承结构，可有效降低单个轴承的偏差。
C、电气部分对精度的影响：
电源的稳定精度—对光发射源与接收单元的影响。读取响应与电气处理电路带来的误差；电气噪音影响，取决于光栅尺电气系统的抗干扰能力；例如，如果电子细分，也会带来的误差，按照德国海德汉提供的介绍，海德汉光栅尺的细分电气误差与正余弦曲线误差会有一个很小的差异。
D、光栅尺使用中带来的精度影响：

输出电缆的抗干扰与信号延迟（较长距离或较快频率下）；
       接收设备的响应与接收设备内部处理可能的误差。
       光栅尺高速位移时的动态响应偏差。
       常见的就是我们自己使用安装的方法与安装结果带来的偏差。
       综上所述，光栅尺的分辨率和精度其实是两个*不同的概念，但是二者有关联，高分辨率可以得到高的测量精度，但不是高分辨率一定能得到高的测量精度。在同等条件下，理论上高分辨率光栅尺一定可以得到高的测量精度。