работа выхода электрона из металла может быть отрицательной?

Скорее всего в формулах записали что то не с тем знаком )
Работа выхода, по определению, эта энергия, которую нужно сообщить электрону, чтобы он мог выйти из металла.
Если она отрицательная, то это означает, что никакой энергии не надо сообщать, наоборот, он только получит больше энергии после выхода )
Ну и, как следствие, ему будет энергетически выгоднее находиться вне металла, чем внутри него.

Так что все зависит от того, как ее определить ) если записать, что энергетический баланс для фотоэффекта как
Ek + φ = h*υ, то есть энергия фотона, поглощенного электроном, идет на преодоление барьера φ при выходе из металла и остаток энергии идет на кинетическую энергию Ek
если φ будет отрицательным, то энергия Ek будет гораздо выше энергии фотона. при отсутствии фотона (правая часть = 0) ничто не будет мешать электрону "вылететь" из металла самостоятельно.