в элипсоид вписать прямоугольный параллелепипед наибольшего объема

Для сферы решение известно - куб.

Берёте сферу со вписанным кубом и путём масштабирования по трём осям преобразуете сферу в нужный вам эллипсоид. Тогда куб теми же преобразованиями преобразуется в параллелепипед, который и будет параллелепипедом наибольшего объёма для этого эллипсоида.