Можно ли в формальном письме на английском опускать THAT, соединяющее главное и определительное подчиненное предложения?

Лучше не опускать, чтобы Вас поняли однозначно.

Кстати, грамматически правильно именно whom, а не who. Но в американском английском чаще пишут who.

THAT в случае с профессором, думаю, по меньшей мере неэтично, если вообще неграмматично. А опускать можно. Обычно так и делают.

Самый лучший вариант The professor I used to work with. Именно так, без всяких who, whom или that.

That в составе определительных придаточных придает как раз разговорный оттенок. В официальном стиле используется who (в отношении людей) или which (в отношении неодушевленных объектов) .

The professor WHO I used to work with is now one of the most famous ...

Подробнее здесь:
bbc.co.uk/worldservice/learningenglish/radio/specials/1535_questionanswer/page36.shtml

Рустам Искендеров, that может использоваться как в отношении людей, так и в отношении неодушевленных объектов. Смотрите по ссылке.

Опускать можно, почти всегда, за исключением когда THAT несёт дополнительную смыловую нагрузку.
I said them that I shall be late (тут можно смело опускать) (знаю, сейчас SHALL закритикую, но так можно, если действие ещё не выполнено) .
The problem that I talk about... (тоже можно, но THAT уже несёт больше смысловой нагрузки) .
It is that (what) I mean (здесь опустить нельзя, по идеи WHAT грамотнее, но в некоторых диалектах склонные исползовать THAT).

Вы думаете, что по этому вопросу есть однозначное правило?

В принципе, все опускания и сокращения направлены на упрощение речи, на делание ее более неформальной. Но лично я не сказал бы, что отсутствие that в формальном тексте настолько же критично, насколько, к примеру, сокращение вспом. глаголов (isn't, I'm etc.).
Впрочем, если вы не уверены, всегда можно оставить.
"who I used to work with" или "with whom I used to work" звучат прекрасно.
Ну а that я как-то стараюсь избегать. ) Не то, чтобы с ним было что-то не так, просто в предложениях, где подчиненый clause передает инфу второстепенной важности (My brother, who lives in Australia, sent me a gift), оно не используется, поэтому чисто чтоб не путаться. Ну и как-то непривычно мне называть людей "that" (хотя в анг. это норм.).