Как рассчитывать 3d?Например вращение куба.

Вообще все преобразования делаются через линейную алгебру.
Каждая вершина умножается на матрицу (матрица сценического преобразования * матрица проекции * матрица экрана) и таким образом получаем из точки в модели точку на экране. Потом на экране эта точка напрямую рисуется.

Поскольку существует множество 3D редакторов с возможностью анимации, то вам не нужно изобретать велосипед, а найти и ознакомиться с уже готовыми алгоритмами, которые реально используются... :-/

Помнится, я, когда разбирался с 3д, делал для себя заметочки:

http : // это-очередной-унылый-домен-из-кириллической-зоны . рф / web / webgl / z150226-00.xml

http : // это-очередной-унылый-домен-из-кириллической-зоны . рф / web / svg / z141024-00.xml

Может, чем-нибудь и Вам помогут 8-)

Вам для чего? Если теория, тут нужны формулы аналитической геометрии для поворота точек вокруг оси + формулы проекции 3D на плоскость

Но для ПК выведены алгоритмы преобразования 3D с помощью матриц - искать в сети не долго

В С++ OpenGL это легко делается: http://www.youtube.com/watch?v=6RxIeguVLcM

Ну есть такая книжка очень хорошая, на русском нету, правда.
Introduction to 3D Game Programming with DirectX 10. Frank Luna
Так вот, первые три главы рассказывают об операциях над векторами, матрицами, и как все эти операции помогают в 3д. Думаю, в openGl должно быть то же самое, а если нет - можно самому написать и всё ок.
Если почитать и разобраться - то сразу всё понятно становится