Почему подавляющее большинство подшипников имеют круглую, гладкую внешнюю структуру? Почему не в виде какого-либо ключа?

точно не уверен но у подшипников качения есть свойство клинить :) вот из за этого и такая конструкция, чтобы в случае клина он работал как подшипник скольжения.

Ключ трудно запрессовать в отверстие, не сломав его...

Кроме уже изложенных соображений есть и другое, едва ли не главное.
При изготовлении подшипниковых узлов их проектируют с такими допусками, чтобы подшипник мертво сидел на одной детали (скажем, валу) и свободно - в (или на) другой (скажем, в корпусе). Обычно его сажают в корпус на такую посадку, чтобы его наружное кольцо могло свободно проворачиваться, а от выпадения фиксируют другой деталью.
Если подшипник будет сидеть без возможности перемещения на обеих деталях (в корпусе и на валу), его заклинит.

чтобы ремонтировать а не выкидывать весь агрегат

Потому что надо, кроме собственно фунциклирования узла, обеспечить еще его ремонтопригодность, желательно с невысокими издержками. А некруглые отверстия с высокими требованиями к точности обработки и качеству поверхности -- это достаточно дорогая штука.

Плюс любое отклонение от цилиндричности -- это концентратор напряжений. То есть некруглый подшипник надо делать бОльшего размера (и веса), чем круглый, иначе долговечность будет так себе...

фрезеровать фасонные отверстия в станине - с точностьб сохранения осевой симметрии дорого и сложно, Гладкую обойму в циллиндрическое отверстие можно вставить большей точностью

Треугольными надо делать. Треугольные не выпадут.

Клинить может :)