как в 3dmax разрезать плоскость по кривой линии?

Ну, есть два варианта (на самом деле, их больше) :

1. На миллиметр выше сделать "другую" часть пола (отдельным элементом) с другой текстурой.

2. Создать плоскость (plane) с нужным (достаточным) количеством сегментов. 3x3, например. Сконвертировать в Editable poly. В параметрах -> Subdivision surface поставить галочку Use Nurbs Subdivision. Iterations поставить на 2, например (чем больше число, тем плавнее линия будет) . Далее, во вкладке Selection выбрать Vertex (точечки нарисованы) и за точки тянуть, как надо внутри плоскости. Потом, нужным сегментам присвоить нужный материал. (там же, в Selection, кнопочка с плоскостью - выделяешь нужный сегмент, и присваиваешь материал из редактора материалов) . При необходимости, (а она появится) использовать UVW Mapping

3. Самый нормальный вариант -> создаем полскость без сегментов -> фигачим в проекции сверху линию разреза (простым лайном) . Экструдим линию так, чтоб получившаяся фигура пересекала плоскость. Выделяем плоскость, жмем (в создании новых объектов) Compoud objects->boolean->Pick Operand B и на экране тыкаем на экструденную линию. (под кнопкуой Pick Operand должно быть выделено Move и во вкладке Operation -> Substraction A-B) Затем на плоскость -> Convert to editable mesh

Я бы сделал проще - одна плосткость для всего пола, но на нее нанести материал, нарисованный как вам надо в шопе и настроенный (блики, зеркальность, объем и т. д) уже в Максе.

Еще есть отличный способ:
- вьюпорт TOP, создаем Плоскость.
- сплайном рисуем границы, где будут различные материалы на плоскости (только сплайн должен быть замкнутым или выходить за пределы плоскости.
- Поднимаем сплайн над плоскостью (на небольшое расстояние) .
- выделяем плоскость - далее - командная панель, вкладска создать, в окошке вместо примитивов выбираем "составные объекты" - там находим кнопку ShapeMergre нажимаем ее. В появившемся окне нажимаем "GetShape" и щелкаем по сплайну. проекция сплайна внедрилась в плоскость (сплайн можно удалить, а получившийся из плоскости продукт - перевести в полисетку - теперь можно выделить полигоны и назначать им материалы (предварительно назначив UWVMap))
Успехов.
ЗЫ: не полльзуйтесь Булевыми операциями - гемморой лишний - трата времени для последующей правки топологии.