Еще раз. Почему на 2,8 больше мылит чем на 3,5? И как решают это в более дорогих обьективах? (я не о размытии фона)

Потому что для лучей, отличных от параксиальных, изображение форимируется не совсем в нужном месте. Прикручивая дырку, мы как раз и уменьшаем количество непараксиальных лучей.
Как это решается в супер-пупер оптике? Расчетом линзовой системы. Поверхность линзы изготавливают не совсем сферическую, а представляющую собой кривую более выоского порядка. Подбираютстекло для линз с различным коэффициентом преломления. Да еще, плюс ко всему, максимально стараются обеспечить перпендикулярность падающего луча и плоскости матрицы.

Ну чисто технологически, производство светосильных объективов более сложное.
Чем больше светосила, тем должны быть меньше допуски на расположение линз в объективе и тем больше должна быть точность их изготовления. Поскольку делают все на одном станке зачастую, то соответственно более светосильные получаются похужее. )
P.S в дорогих объективах это решают по разному. Есть множество способов и некоторые из них составляют коммерческую тайну )), некоторые же поисаны в литературе Я знаю несколько.
Применяют сверхнизкодисперссионного стекла, применяют специальные напыления изнутри. используют широко магниевые сплавы (магний при перепаде темпеератур слабо расширяется и обладает прочностью) . Увеличивают число лепестков диафрагмы, уменьшают количество линз, бо чем меньше линз в объективе, тем меньше искажения. Вот где-то так. А вообще светосильные объективы чрезвычайно дороги. Если мне не изменяет память старенькие кенон f 1.0 стоит 1600$
P. S. Это для разных объективов. скажем для 50 мм f/ 1.2 и 50mm f/1.8.
Но если вы говорите об одном объективе, просто с закручиванием диафрагмы, почему пропадает "мыло", то тогда читайте пост 2. ))

Предположу более простой вариант: если объектив фокусируется не точно, то при меньшем ГРИП - будет больше мыла, ГРИП будет меньшим при бОльшей дырке. p.s.Дифракцию при больших диафрагменных числах тоже нужно учитывать.