Один из двух параллельных и одинаковых по размеру прямоугольников (стороны а и b) повернут относительно другого на 90о.

Пусть a > b.
(int (x(1 - x)/2)dx from 0 to 1) = 1/12
==>
V = h(ab + 4/12*((a - b)/2)^2) = h*(ab + (1/12)*(a - b)^2)

Если не ошибся, а то посчитал почти в уме, а расписывать подробно буду год...

Проверяем на пределельных случаях.
При a = b сходится; при b = 0, h = (√2/2)a не сходится, д. б. объем правильного тетраэдра с ребром a, а получилось в 2 раза меньше.
Где-то двойку потерял.

PS. Пока копировал сюда ответ, потерял его начало. Вот оно:
"Не очень понятно, как именно получили фигуру.
Предположу, что фигура является выпуклой оболочкой указанных точек, а то уж отвечать abh совсем скучно."

Картинку бы... Сложно представить и лень рисовать.

Координаты введены неудобно. Переписываем (сразу под общую задачу):

A: (xo,yo,0), B:(xo,yo+b,0), C:(xo+a,yo+b,0), D:(xi+a,yo,0)
A1: (xi,yi,0), B1:(xi,yi+d,0), C1:(xi+c,yi+d,0), D1: (xi+c,yi,0)

Прямые записываем привычным образом в параметрическом виде:

AА1: x=xo*(1-t)+xi*t, y=yo*(1-t)+yi*t, z=h*t
BB1: x=xo*(1-t)+xi*t, y=yo*(1-t)+yi*t+b*(1-t)+d*t, z=h*t
CC1: x=xo*(1-t)+xi*t+a*(1-t)+c*t, y=yo*(1-t)+yi*t+b*(1-t)+d*t, z=h*t
DD1: x=xo*(1-t)+xi*t+a*(1-t)+c*t, y=yo*(1-t)+yi*t, z=h*t

Видно, что на произвольном срезе z=h*t сечение -
прямоугольник со сторонами a*(1-t)+c*t и b*(1-t)+d*t

Интегрируем (кто не помнит, объём - это интеграл площади по высоте)

V=h*Integrate (a*(1-t)+c*t)(b*(1-t)+d*t)dt from 0 to 1=h/6*(a*(2b+d)+c*(b+2d))

V=h/6*(2ab+bc+ad+2cd) - может, кому так больше понравится.

Простой случай c=a, d=b даёт привычные hab

Первый случай с=b, d=a даёт h/6*(a²+4ab+b²)

Только и всего.

Кому сложно брать интегралы - там нет ничего сложного, вбиваешь в робота и списываешь ответ. Но плохо, когда кажущаяся сложность в интеграле отталкивает от простого метода решения.
.