Можно ли ставить в nVidia SLI две почти одинаковых видеокарты? С минимальными различиями? ROG Strix GTX 1080 O8G и 8G?

Возможно. SLI работает с картами одного чипсета. Если различия в частотах уровняются, то быстрая карта замедлится до скорости медленной. Как последствия: потеря производительности быстрой карты.

Лучше продай два этих старья и купи одну видеокарту из 3000-ой или 4000-ой серии. Они будут быстрее и за счёт нового графического процессора и за счёт dlss.
Даже по чистой производительности одна rtx 3070 быстрее двух 1080, поставленных в sli. Да и 4060ti скорее всего их обгонит. А если включить dlss, то две 1080 вообще окажутся очень далеко позади.

Технология sli давно заброшена даже самой nvidia и поддерживается от силы в 10% игр, большинство из которых вышло более 5 лет назад. И в будущем таких игр будет ещё меньше. Поэтому почти везде две таких видеокарты будут показывать производительность одной. А жрать энергии будут за двоих. Что потребует дорогой блок питания с кучей коннекторов.

Зачем?
Sli мертв

На одинаковых чипах и с одинаковым объемом памяти.
На производителя, частоты и разгон пофиг.
Но толку от SLI нет никакого, будут только зря греть воздух и жрать электроэнергию.

Можно, достаточно что бы сам тип карты был одинаковый - gtx 1080 в данном случае. Не совсем правда понятно, зачем это в 2023 может понадобиться, с учетом того, что практически нигде sli ничего не дает.