Как улучшить качество видео Nikon 5100 ?

купить видеокамеру

Ничего не надо: видео - вспомогательная функция, там нет никаких "крутилок". Это фотоаппарат, а не видеокамера...
И еще, вот это : "открыл днём окно, всё ярко," - это только кажется. Человеческий глаз не умеет измерять яркость. На самом деле дома в комнате, как минимум в сто раз темнее чем на улице.

Если света достаточно и ИСО 100,то шумов не должно быть. Проверьте ИСО, и сделайте так, что бы в комнате действительно было светло.

1) фотоаппарат - не видеокамера.
И функционал у него соответствующий. (некоторые настройки не меняются в режиме видео)
2) Nikon, в принципе, не специализируется на видео.
Если нужно видео, то это, например, к Сони.
3) параметры видео, в целом, ничем не отличаются от параметров фото
http://www.cambridgeincolour.com/ru/learn-photography-concepts.htm

Установить альтернативную прошивку.

пример видео желательно бы, с установленными настройками напишите

Поставь в режим AUTO и нажми кнопку спуска. Если яркости достаточно - вспышка откидываться не будет и можно смело снимать видео.

Если кажется, что в комнате достаточно света, то это не так, выходя на улицу, где светит яркое солнце, перепад по яркости составит десять тысяч раз.

Экспериментальным путем поищите то ISO, на котором не будет шуметь. Будете удивлены, что на ISO100 шумов намного больше, чем, например, на 800(сам через это проходил, просто навскидку уже не помню что на Д5100 выставлял, больше года не снимаю видео на нем, есть другие камеры. Хотя видео на этом фотике даже без хакерской прошивки очень хорошее)

а что это за нокиа? я думаю что никак нельзя