Selaa lähdekoodia

fixes upper bound in interval quantization encoding

Sebastian Bittrich 5 vuotta sitten
vanhempi
commit
a6d700b732
1 muutettua tiedostoa jossa 1 lisäystä ja 1 poistoa
  1. 1 1
      src/mol-io/common/binary-cif/array-encoder.ts

+ 1 - 1
src/mol-io/common/binary-cif/array-encoder.ts

@@ -172,7 +172,7 @@ export namespace ArrayEncoding {
         for (let i = 0, n = data.length; i < n; i++) {
             const v = data[i];
             if (v <= min) output[i] = 0;
-            else if (v >= max) output[i] = numSteps;
+            else if (v >= max) output[i] = numSteps - 1;
             else output[i] = (Math.round((v - min) / delta)) | 0;
         }