Ведутся наблюдения за поведением животных, выявляются закономерности и потом проводятся аналогии с поведением человека. В первую очередь, конечно, речь о приматах. Особенно интересны те, которые по образу жизни близки к человеческому обществу - бонобо, шимпанзе. (например, http://elementy.ru/find?words=бонобо&search=Поиск )
Но, в поисках границ и истоков, наблюдают и за другими животными. Иногда приходится ставить специальные эксперименты, чтобы заметить закономерности (например, http://elementy.ru/news/431890).
Конечно, прямое сравнение - это еще не доказательство. У некоторых пауков, например, самец дарит самке подарок - пойманное насекомое, завернутое в паутину. Некоторые самцы при этом заворачивают мусор, а некоторые пытаются отобрать подарок после спаривания (http://elementy.ru/news/431733). Возможные забавные аналогии не означают сходство процессов в нервной системе человека и паука.
Как же искать инстинкты у человека? Тут есть несколько направлений:
1. Путем аккуратных психологических экспериментов, когда испытуемый не догадывается, что изучается, а значит его действия, выбор, не осознанны (http://elementy.ru/news/431534). Вопрос, является ли это инстинктом, наверное не простой - пока что не видно четких границ между человеком и другими животными. Поэтому трудно сказать, где заканчиваются инстинкты, а начинается разумная деятельность (хоть и бессознательная) .
2. Используя современные возможности анализа работы мозга - энцефалограмма, МРТ мозга и проч. - можно убедиться (ну или опровергнуть) , что у шимпанзе и человека при решении сходных задач работают одинаковые участки мозга. Техника стала настолько точна, что позволяет отслеживать работу отдельных групп нейронов, а в случае экспериментов над животными - речь уже об отдельных нейронах. http://elementy.ru/news/430088 - для пример, там сравнения нет, но, думаю, понятно, что его можно было бы провести для животных, у которых в поведении присутствуют взаимопомощь и сострадание.
3. Сравнивая анатомию мозга и опираясь на результаты генетических исследований и результаты наблюдения за поведением. Вот, например http://elementy.ru/lib/431605