изображение с разрешением 1024 х 768 имеет 65536 цветов. какое количество информации необходимо для его кодирования?

Сколько занимает пиксел в графическом режиме будет зависеть от поддерживаемых цветов: в монохромном режиме пиксел — это один бит (1/8 байта)
в 16-цветном режиме пиксел — это 4 бита (1/2 байта)
в 256-цветном пиксел — это 1 байт
для тру-колора пиксел — это 24 бита (3 байта)
соответственно и решайте