что бы игра выглядила более красиво сглаживание надо ставить больше или меньше?

Больше.

Эффект сглаживания устраняет так называемый эффект лесенки. Это когда все объекты в игре окружены неровными контурами. Чем больше уровень сглаживание, тем более гладкие края объектов.