Какая матрица лучше? Первый вариант с дробью 1/2.3, а вторая с дробью 1/5.8 Помогите пожайлуста.

Чем меньше знаменатель - тем лучше.

Лучше та матрица, диагональ которой больше.
В твоём вопросе лучше тот вариант, где значение дроби больше. Т. е. знаменатель меньше.
Т. о. 1/2.3 > 1/5.8
Хочешь убедиться? Переведи в десятичные дроби:
1/2.3 = 0,43478
1/5.8 = 0,17241

5-й класс (первый этаж, 3-я дверь налево)

1/2,3" - это самая маленькая матрица на сегодня, естественно, качество её уступает камерам с матрицами
возрастающими по размерам 6 2/3", 1", 4/3" и
матрицы APS-C, которая у большинства зеркалок, а самая большая матрица - это 24х36мм, её называют ещё полным кадром ( фулл фрейм)... самые дорогие камеры, дороже которых ещё среднеформатные, которые стоят несколько миллионов рублей.

Вопрос должен быть не в "размере МАТРИЦЫ (я гляжу спустя 10 лет - это многие усвоили )))), а в "размере МЕГАПИКСЕЛЯ" на матрице.
Качество зависит не от размера матрицы.

Ещё 10 лет назад выпускались фотики с 5-ю мегаписелями на матрице 1/2,5, которую тут сейчас называют "маленькой". Но размер мегапикселя там сравнительно большой (5 мм2/Мп), при том что современные камеры, редко превосходят 2,5 мм2/МП.
Например
Panasonic HC-V770, цена 28 т. р. - 1/2,3" (29,5 мм2)-12,7 Мп = 2,3 мм2/Мп
JVC Everio GZ-RX510, цена 21 т. р., 1/5,8" (4,6 мм2) - 2,5 Мп = 1,9 мм2/Мп

Понятно что у старой камеры - фотки гораздо лучше выглядят, чем у современных.

Если говорить про современные цифровые зеркалки типа Canon и Nikon, то у них размер матрицы aps-c - это от 330 мм2 до 384 мм2, кол-во точек разнится от 12 до 20 Мп, и размер мегапикселя на матрице также различается, в среднем более 18-20 мм2/Мп.
Например Canon 600d - матрица aps-c (332 мм2) - 18,7 Мп = 17,7 мм2/Мп

Оттого и качество изображения.
Те же параметры и у Sony Альфа Nex.

Например Sony Nex-5 (2010-2012)
матрица Aps-HD, 365 мм2 - 14,2 Мп - т. е. 25,7 мм2/Мп.

Более современный вариант Sony Nex 7
матрица Aps-c, 365 мм2 - 25,7 Мп - т. е. 14,2 мм2/Мп.