Какой металл и для чего закаливают в масле? Масло при этом разве не возгорается, вспыхивает?

Скорость охлаждения в масле существенно меньше, чем в воде. Это важно с точки образования внутренних напряжений в закаливаемом металле. Деталь может быть сложной формы и при неравномерном охлаждении возникает существенные напряжения вплоть до образования трещин. Для избежания этого уменьшают скорость охлаждения. Однако скорость охлаждения в масле в 6 раз меньше, чем в воде и в углеродистых сталях может не произойти мартенситного превращения, поэтому для таких сталей масло не подходит, а вот для легированных (разумеется не всех, а тех, которые претерпевают фазовые превращения) будет в самый раз. Да масло может вспыхнуть, но это не страшно, его можно быстро потушить накрыв бак крышкой. К тому же если быстро погрузить деталь, то можно вообще обойтись без вспышки и чаще всего так и происходит.

И возгорается, и вспыхивает

Сталь ...а масло дымит ну и горит если сразу вынуть, а вынимать не надо. Закаливают чтобы придать твердость и упругость металлу.

металл закаляют либо в воде либо в газах типа фреона. Резкое охлаждение повышает его прочность и одновременно увеличивает хрупкость

https://www.youtube.com/watch?v=REk_wwzQKD4
Смотри на 3.06 минуте.

В воде есть проблема: плёночное кипение. Между водой и металлом плёнка пара, которая препятствует охлаждению.
Как вариант в солёной воде или в растворе соды.

В древности ещё пользовались мочёй чёрного козла.

Если сделать все правильно и использовать при этом хорошее оборудование , то никаких вспышек быть не должно, в основном такая проблема у новичков возникает.