как правильно снимать плоды кумквата?

Как снимите - так и будет правильно. Оставлять плодоножку или нет - это дело эстетики и никак не повлияет на растение.
Если есть на что привить, то можете отрезать вместе с частью веточки, которая станет привоем.