Как поступить

Обратитесь в юридическую консультацию. А квартира после смерти мамы точно ваша.

из вашего вопроса следует что собственность была оформлена на мать, ну и наследуйте квартиру на себя, зачем вам отчим то

Нотариюс, видимо, прав. Если отчим Вас не удочерял, Вы ему никто, и за ним не наследуете. А что наследует за ним Ваша мама, и есть ли у него ещё наследники - большой вопрос. Если у отчима нет детей и родителей, это не значит, что у него нет наследников. Дети и родители - наследники первой очереди. Есть наследники второй и т. д. очередей. Ваша мама, видимо, могла бы претендовать на так называемую супружескую долю. Но она очень небольшая. И дело о наследстве за отчимом Вы открыть не можете. Это могут сделать только его любые родственники, а после этого Вы могли бы на что-то претендовать.
А вот если владелицей квартиры была мама, Вы, видимо, можете на нее претендовать.

Получайте свидетельство о праве на наследство после матери. По поводу времени открытия наследства обратите внимание на ч. 2 ст. 1114 ГК России: Статья 1114. Время открытия наследства

1. Днем открытия наследства является день смерти гражданина. При объявлении гражданина умершим днем открытия наследства является день вступления в законную силу решения суда об объявлении гражданина умершим, а в случае, когда в соответствии с пунктом 3 статьи 45 настоящего Кодекса днем смерти гражданина признан день его предполагаемой гибели, - день смерти, указанный в решении суда.
2. Граждане, умершие в один и тот же день, считаются в целях наследственного правопреемства умершими одновременно и не наследуют друг после друга. При этом к наследованию призываются наследники каждого из них.
А по поводу наследства за отчимом Вам нужно проверить, есть ли у него наследники дальних очередей (третьей, четвертой, пятой, шестой и седьмой) . Они указаны в ст. 1145 ГК России. Вы по этой статье являетесь его наследником восьмой очереди. Но это только в том случае, если они жили в Российской Федерации.