Sensitivity and clip values

Device          Setup                    Gain           LSB           Sensitivity         Clip (PP) [Counts/Volt]
EDL              VL                       0,4           2,5µV          4*105                                  40V
                     L                         1                1µV              1*106                                  16V
                     H                        10              100nV         1*107                                   1,6V

EDR               VL (2)                 0,4             2,5µV          4*105                                  40V
                      L (0)                 1                    1µV            1*106                                 16V
                     H (1)                  10              100nV           1*107                                  1,6V
                    VH (3)                50              20nV           5*10                         0,32V

CUBE1                                          10              24,4nV         4,0984*10               0,41V

CUBE3*                                       1                244nV          4,0984*106                    4,1V
                                               2                122nV           8,1967*106                     2,05V
                                               4                  61nV           1,6393*107                     1,02V
                                               8               30,5nV          3,2787*107                0,51V
                                              16               15,3nV           6,5574*107                    0,26V
                                              32                7,6nV           1,3115*108                 0,13V

* in combination with Trillium Compact the sensitivity needs to be multiplied by 1/10

back to top of main content