Почти двадцать лет своей жизни (1896—1912) Клейн посвятил строительству Музея изящных искусств имени Александра III. Проведенный в 1896 публичный конкурс был выигран П. С. Бойцовым, архитектором-самоучкой без разрешения на право производства работ, который не мог быть допущен к строительству такого масштаба (и, вероятно, не собирался посвятить многие года такому длительному проекту) .
В итоге, правление МГУ — организатор постройки — пригласил Клейна возглавить проект, организовав ему длительное турне в европейские музеи, Египет и Грецию. Клейн использовал общий градостроительный план и внутреннюю планировку Бойцова, но подробная архитектурная разработка фасадов в стиле неогрек и интерьеров — безусловно, авторская работа Клейна и его команды. В неё входили такие мастера и ученики Клейна, как В. Г. Шухов, И. И. Рерберг, Г. Б. Бархин, А. Д. Чичагов, И. И. Нивинский, А. Я. Головин и др. Через школу фирмы Клейна прошли десятки молодых архитекторов, инженеров и художников. Например, фасад и интерьеры знаменитого чайного магазина Перлова на Мясницкой, выстроенного фирмой Клейна, фактически проектировал К. К. Гиппиус.
Клейн — возможно, самый плодовитый мастер промышленной архитектуры своего времени, совмещал руководство постройкой музея с множеством частных проектов. Среди его постоянных клиентов крупнейшие московские промышленников — семья Жиро, Ю. П. Гужон, А. О. Гюбнер. Среди построек Клейна — фабрика «Красная Роза» на улице Тимура Фрунзе и первые корпуса авиазавода в Филях (нынешний ГКНПЦ имени Хруничева) .
