С какой max скоростью полетит масса в 0,1 мг в открытом космосе, если к ней приложена сила в 100 н ?

a=F/m=100/10^-7=10^9
v=at/√(1+(at)²/c²)=287 млн. м/с = 287 тыс. км/с

несерьезно

по сути, автор вопроса прославляет божественную силу
однако, в природе есть только взаимодействие тел и полей
то есть, вопрос абсолютно безсмысленный, отношения к реальности не имеющий, и подобное даже не фантастика

в плане вопроса возможен только реактивный двигатель + бак с топливом
сам двигатель с тягой 100 Н это 2,5 кг
+ топливо
100 кг топлива хватит ориентировочно на 500 минут полёта, причем в атмосфере, где есть кислород
значит, в вакууме потребуется дополнительно 100 кг окислителя
итд итп

вот из таких реалий и надо исходить

есть формула...

будет ускоряться, но с не достигнет.

Ускорение составляет 10^9.
В системе отсчёта, в которой это тело покоилось до того, как к нему приложили эту силу, скорость будет возрастать по закону (если принять с за 300 000 000 м в сек)
v(t) = 3*10^17*t/sqrt(9*10^16 +10^18*t^2)
Как видно, этот предмет очень быстро достигнет величины, немного меньшей с, после чего будет асимптотически приближаться к ней, никогда не достигая.
Более подробно - здесь можно почитать...
https://ru.wikipedia.org/wiki/Релятивистское_равноускоренное_движение
Коль скоро сила действовала 1 сек - в той же системе - скорость будет примерно
0,958 от световой.
Если принять скорость за 299 792 458 м в сек
то получается
287200000 м в сек.

Ft = mV

Подставить числа и посчитать на калькуляторе сумеешь, или за тебя и это сделать?

В соответствии с основами физики, при действии постоянной силы на тело, имеющее массу покоя, скорость будет неограниченно увеличиваться, и с достижением субсветовых скоростей, эта скорость будет неограниченно приближаться к скорости света, никогда не достигая её.