. All (what, that, which) you need now is sleep

На самом деле, that здесь тоже относительное местоимение, которое в свою очередь служит для присоединения придаточного предложения к главному. THAT практически (!!!) всегда взаимозаменим с WHICH и WHOM. Например:
It's the vase that //which costs a fortune. Это ваза, которая стоит целое состояние. (Опустить местоимения НЕ можем, так как местоимениевыполняет роль подлежащего в придаточном предложении)
He's the man who//whom//that we saw in the concert hall yesterday. - Это тот мужчина, которого мы видели в концертном зале вчера. (Кстати, все эти относит. местоимения (местоимения, но не придаточные!!! ) в этом и ему подобном случае могут опускаться вообще! ! Почему? Потому что мы имеем право опустить их в тех придаточных, в которых есть своё собственное подлежащее. В данном случае это WE)
Have a look at the picture which//that I bought yesterday. - Взгляни на картину, которую я вчера купил. (здесь тоже можем опустить, так как речь о картине, а купил Я)

ОДНАКО, у WHICH и THAT есть свои "любимые" случаи. То есть те, когда надо отдать предпочтение одному из них.
WHICH употребляется после запятых (!!!) в придаточных, которые
1) НЕСУЩЕСТВЕННЫ для смысла главного предложения, поэтому мы можем просто напросто убрать это придаточное, и предложение ничего от этого не потеряет, оно по прежнему будет иметь смысл, так как придат просто несёт ДОПОЛНИТЕЛЬНУЮ информацию об уже известном нам предмете.
Например: That blue car, WHICH is brand new, is my brother's. Та голубая машина, которая абсолютно новёхонькая, принадлежит моему брату.
, WHICH is brand new, выкидываем. Остаётся - That blue car is my brother's. Та голубая машина принадлежит моему брату. Нормальное предложение. (сравните - A letter which//that is written in pencil is difficult to read. Письмо, написанное карандашом, трудно читать. Имеется в виду любое письмо такого рода. Выбросите "написанное карандашом" и что получится? Любое письмо трудно читать - БРЕД. Это НЕ дополнительная информация, а существенная, относящая его (письмо) к определённому классу. )
2) употребляем WHICH, а не that в придаточных, которые относятся не к конкретному слову главного предложения, а ко всему главному предложению в целом. (Предложение из вашего предыдущего вопроса) . Кстати, и в этом случае придаточное тоже отделяется запятой.
Отсюда вывод - после запятой ТОЛЬКО WHICH//WHO, a THAT НИКОГДА!!! !

THAT НИКОГДА не используется после 1) запятой и 2) ПРЕДЛОГОВ. Но очень "ЛЮБИТ" следующие слова:
SOMETHING, NOTHING, ANYTHING, ALL, NONE, MANY, FEW.
"Любит" значит употребляется после них. Например:
That's all that I have done.
There is something that I don't understand.

В вашем примере All (what, that, which) you need now is sleep. есть ALL, поэтому по правилу мы и отдаём предпочтение THAT. Но как уже справидливо сказали выше, и как объяснила я в примерах выше, здесь можно опустить местоимение вообще.
Тема не такая простая, как может показаться на первый взгляд, поэтому если есть желание попрактиковаться я могу скинуть вам книгу (там и правила, и упражнения) на эту тему. И ключи отдельной книгой тоже есть. Пару упражнений сделаете - и будете просто асс в этих придаточных! !

All that you need now is sleep

What употребляется только в качестве вопроса или в случае, когда можно сказать "то, что". I didn't hear what you said.
Which это "который", относительное местоимение. Также и "который из известного количества".
А that это соединительный союз, "что", который здесь и нужен.

Хотя, и All what you need now is sleep вполне нормально, мне кажется.

Бог его знает, Тоня, может кто иначе пояснит. Сам иногда путаюсь)))))))) )

Соглашусь с предыдущими ораторами, that здесь лучше всего подходит. Хотя ещё лучше было бы оставить всё как есть (all you need now is sleep).

that