Скорость тупого алгоритма

Если частота выше, то в один поток твой алгоритм будет выполняться быстрее. А распаралелливать на потоки или ядра можно только если ты это делаешь вручную или применяешь какое-то готовое решение, которое распараллелится под капотом. Какая-нибудь сортировка пузырьком не будет параллелиться.

Нет, конечно. У Pentium-3, который ты приводил в примере, тактовая частота в 3-10 раз меньше, чем у современных ядер микропроцессоров - раз. Кроме того, ядро современногой микропроцессора за такт может делать несколько операций, так называемая суперскалярная архитектура - ядро вовсе не тупо выполняет команды машинного кода, оно их оптимизирует, в нем имеется куча так называемых теневых регистров, несколько арифметико-логических устройств, длинные конвейеры выполнения команд, исполняемые заранее на всякий случай предугаданные процессором команды. которые еще не поступили в процессор... Так что исполнение даже одного потока современным микропроцессором, даже не суперкомпьютером, может быть в несколько десятков раз быстрее, чем Pentuim'ом 3.
Но основное ускорение суперкомпьютером достигается за счет использования одновременной работы десятков тысяч таких микропроцессоров, что требует именно умных алгоритмов, допускающих распараллеливание вычислений на множество потоков на эти десятки тысяч ядер, вот тогда скорость работы возрастает не в десятки раз, а в десятки тысяч раз. То есть использование всей мощности суперкомпьютера требует написания программ специально для него.
Почему с потоками быстрее - например, часто обработку массива данных можно разделить на обработку по отдельности многих частей массива с последующим объединением результатов. Но, увы, это возможно не всегда, и суперкомпьютеры используются именно для таких задач, которых на практике очень много.