Вы бы что выбрали Никон 3*** или 5***серии с китом или сони RX100?

Никон 5***серии
Про Сони ничего не знаю.

Я выбрал Nikon D5100 + Nikkor 18-105mm VR,
И тебе советую.

Из этого вообще бы ничего не стал выбирать

а что для вас есть "качество"? это понятие очень растяжимое.

Если говорить о RX100 - то лучше конечно выбрать Ваши модели Никон.
А что бы их перегнать надо нолик убрать у номера модели т. е. взять rx10 или rx1, как выше советуют, но последняя стоит 120т. р.
FF
Sony rx1 (2012-2016, 35,2 мм2/мп) -120 тр
APS-C
Canon 1200D (2014, 18 мм2/мп) -16 тр.
Nikon Coolpix A (2014, 22,7 мм2/мп) -35р
1,0”
Sony rx10 (2012-2016, 5,7 мм2/мп) -46тр
Sony rx100 (2012-2016, 5,7 мм2/мп) -25тр

Думаю вы заинтересуетесь параметром мм2/мп... )))
Чем больше площадь мегапиксела на матрице, тем выше качество изображения.

Лучше сони а6000

Sony RX1RM2

Nikon 5***серии превосходит Sony RX100

Sony Cyber-shot DSC-RX100
Portrait (Color Depth) - 22.6 bits
Landscape (Dynamic Range) - 12.4 Evs

Nikon D5300
Portrait (Color Depth) - 24 bits
Landscape (Dynamic Range) - 13.9 Evs

The Portrait Score is defined as the color depth performance and its unit is a number of bits.
A color depth of 22bits is excellent, differences below 1 bit are barely noticeable.
This score is named "Portrait" because generally what matters most when shooting portraits is to aim for the richest color rendition

The Landscape Score is defined as the maximum Dynamic Range of the camera sensor and its unit is an exposure value (EV).
A value of 12 EV is excellent with differences below 0.5 EV usually not noticeable.
This score is named "Landscape" as contrasts are typically very high in landscape photography and it's therefore critical to have wide dyanamic range for such use.