[Перевод] RGB‑значения нужно нормализовать делением на 255 или на 256?

Допустим, вы пишете программу для обработки изображений. Программа получает изображение, преобразует его в значения с плавающей запятой, выполняет обработку и сохраняет изменённые пиксели на диск в виде 8-битных цветов. Сегодня я хочу рассмотреть вопрос преобразования целых значений в значения с плавающей запятой. Существует два решения, которые на Python и NumPy выглядят так: Стандартное деление на 255 pixels = img / 255.0 result = process(pixels) output = np.trunc(result * 255 + 0.5) Альтернативное деление на 256 pixels = (img + 0.5) / 256.0 result = process(pixels) output = np.trunc(result * 256) Я предполагаю, что в обоих случаях выходные значения ограничиваются перед окончательным преобразованием типов: # Ограничение и преобразование в 8 бит output_8bit = output.clip(0, 255).astype(np.uint8) В стандартном случае целочисленный 0 соответствует 0.0, а 255 соответствует 1.0. Это работает абсолютно нормально и именно так всё реализовано в GPU . В альтернативном случае прибавляется смещ