Чем ограничивается максимальное сопротивление нагрузки фотоприемника ?

Ограничивается полосой частот, которую хочется иметь (быстродействием схемы) . Ведь параллельно этому резистору присоединена паразитная ёмкость самого фотодиода. И с сопротивлением нагрузки она даёт фильтр нижних частот первого порядка с постоянной RC. Так что частоты ниже примерно 1/2,2RC ещё будут пропускаться, а выше - уже нет (речь о частоте модуляции светового потока) .
Второе ограничение (снизу) - это чувствительность приёмника. То есть сколько мА тока он даёт на 1 мкВт/кв. см световой энергии. Чем больше мА - тем больше вольт можно слупить с сопротивления нагрузки при данном сопротивлении, или же тем меньшее сопротивление можно взять, чтобы получить те же вольты (это выгоднее с точки зрения шумов - у резисторов есть тепловой шум, пропорциональный корню из R).
Ну а лучше всего включать вообще не так. Если усилитель - операционный, то его надо включить по схеме инвертирующего усилителя (+ заземлён, в обратной связи - резистор нагрузки) , фотодиод одним концом на землю, другим - тоже к минусу.

Нда.... А переснять схему, и выложить сюда - лень?
Увы, я - инженер, а не телепат.
Максимальное сопротивление нагрузки фотодиода в общем случае ограничивается его напряжением насыщения. Но тут тонкостей - мама не горюй.

По-моему мнению.
Во первых, по-моему, лучше включать фотодиод так, чтобы он был закрыт, а у Вас он открыт.
То есть на общий надо не плюс питания (как у Вас) , а минус (или диод перевернуть) .
Резистор лучше выбрать так, чтобы при средней освещенности на резисторе было бы напряжение примерно половине источника питания.