какую лучше проволоку использовать для электромагнита? потолще или потоньше?

если магнит постоянный, то по мощности. например ты готов тратить 60 ватт мощности при напряжении источника питания 12 вольт. значит считаем. 60/12=5 ампер, 12/5=2.4 ома должна быть катушка. теперь определяемся с проводом. катушка должна при выделении тепловой мощности 60 ватт, не превышать нагрев выше той температуры, при которой провод не перегреется при постоянном потреблении. для 5 ампер току, в нашем случае ток 5 ампер, а провод для такого току, должен быть с запасом, значит считаем провод диаметром 1.6мм, это сечение 2мм квадратных, а провод 1.6 диаметром, имеет сопротивление одного метра, 0.0086 Ома, теперяча ищем длину провода, 2.4Ома/0.009=266 метров нужен провод, вес его при этом составит 4.5 кг, так шта выгоднее мотать более длинным проводом, с большим напряжением питания, но зато меньше диаметр провода :)
кстати местные пассажиры не соображают в электромагнитах, у них только теория, а в практике они нули в большинтстве своём. и магнитное поле они не знают откуда берётся! короче они книжники.
А ВООБЩЕ, ВЫГОДНЕЕ МОТАТЬ МНОЖЕСТВОМ ТОНКИХ ПРОВОДОВ, ОДНОГО ДИАМЕТРА И ДЛИНЫ, ТОГДА ПОЛЕ БУДЕТ В РАЗЫ БОЛЬШЕ ЧЕМ С ОДНИМ ПРОВОДОМ

от желаемой мощности электромагнита будет зависеть

чтоб выдерживала требуемый ток и помещалась на катушку.

Это довольно сложный и муторный расчет
Для начала нужно определится с силой; определится с ходом (расстояние на котором магнит должен развить силу); из этих параметров высчитать форму и размеры полюсов (по сравнению с потерями поля в воздухе, потери в железе незначительны (накинешь 20% силы и оно все покроет));
Вот дальше идет самый муторный процесс: расчет обмотки постоянного тока. Имея параметры зазора можно определить магнитодвижущую силу (напоминаю накинуть 20%, иначе точный расчет будет очень муторным) МДС это Ампер*виток, уже знаем что нужно от обмотки. Да вот беда: как разделить Ампер*виток, на Ампер и виток, да еще чтоб влезло в отведенное место, и чтоб не перегревалось и чтоб сопротивление подошло -- тут поможет метод последовательных итераций, поэтому то и муторно. Для упрощения есть еще 1 инженерная формула (сделает менее эфективным использование окна магнитопровода: Площадь окна / 3 = площадь сечения 1 витка, площадь этого витка сопоставляешь с МДС получаешь плотность тока в обмотке, так можно сразу определить хватит ли окна магнитопровода. Подобрав окно - метод последовательных итераций для определения параметров обмотки.

от магнитной индукции его зависит и количество витков тоже

если блок питания, то тоньше и больше витков, но если из сети, то короткое замыкание, хотя так же и от бп может быть, ещё и его спалите, если батарейка, то нагреется и будет очень плохо, без расчётов не получится