Для того, чтобы понять, какой цвет получится при смешивании двух цветов есть

Он становится противоположным, или суммой двух оставшихся цветов.

Соседние цвета при снижении интенсивности выбранного цвета, будут смещаться в стороны от выбранного цвета, по цветовому кругу.
При повышении интенсивности выбранного цвета - в сторону выбранного цвета.
К соседним цветам относятся цвета тех третей цветового круга, составной частью которых является выбранный цвет.
Интенсивность эффекта уменьшается с удалением от выбранного цвета, над который производится манипуляция.

Вообще-то, цвет смешать нельзя, потому что цвет -- это ощущение, а для ощущений операции смешивания и вычитания имеют довольно туманный смысл (если вообще имеют). Можно смешать краски (у которых есть цвет, если их освещать каким-нибудь светом), можно смешать лучи света (у которых тоже есть цвет), и в результате смешения получится какой-то цвет. В разных цветовых моделях для этого смешения используются разные формулы. В линейных RGB-моделях, если брать в расчет только хроматику, ответ Freeloader правильный, с арифметической точностью. На самом деле, так, как описал Freeloader, делалось в знаменитом колориметрическом эксперименте Райта [0] и Гилда [1] в конце 1920-х и начале 1930-х годов.

На самом деле, противоположный цвет и дополнительный в цвет в RGB-пространстве -- это не совсем одно и то же. Freeloader (и, видимо, Вы) говоря о противоположном цвете, по-видимому, имеете в виду дополнительный. Противоположный -- это дополнительный в пространстве a*b*.

[0]: Wright, William David (1928). "A re-determination of the trichromatic coefficients of the spectral colors". Transactions of the Optical Society. 30 (4): 141–164. doi:10.1088/1475-4878/30/4/301.
[1]: Guild, J. (1932). "The colorimetric properties of the spectrum". Philosophical Transactions of the Royal Society of London. Series A, Containing Papers of a Mathematical or Physical Character. 230 (681–693): 149–187. doi:10.1098/rsta.1932.0005. JSTOR 91229