Должен осознавать, что однажды созданная им технология может привести к гибели человечества.
Ни в чем!! !
Ученый должен исследовать мир, а не трястись "а вдруг я сейчас открою, а кто-то использует мое открытие на вред кому-то? ".
Тем более, что в истории не было вредных открытий. Знать устройство мира - всегда полезно.
Да, была атомные бомбы, убившие тысяч 200 японцев. Но она позволила избежать наземной операции - а это многомиллионные потери, а еще она привела к тому, что в мире прекратились крупные войны, чего не было ранее в истории никогда! Это уже не 200 тысяч - это добрая сотня миллионов cпасенных жизней.
А еще точно та же физика и квантовая механика, что дали бомбу, дали, например, томографию, которая спасает каждый месяц больше жизней, чем погибло под бомбами!
не соорудить очередную ядерную бомбу
Главная и, по сути, единственная ответственность учёного перед обществом, заключается в том, что он должен быть честным.
Т.е. не выдавать непроверенные результаты за истину, не "натягивать" результату исследований, даже если он очень верит, не поддтасовывать, чтобы получить дополнительное финансирование и, тем более, не заниматься шарлатанством, прикрываясь учёным званием.
А разглагольствования про гибель человечества от пробуждения Ктулху – бред. Не бывает чистого чёрного и чистого белого, любое открытие можно использовать во зло и во благо, Mikhail Levin уже привёл хорошие примеры. Учёный, изучающий природу не может нести ответственность за ВСЕ возможные использования результатов его работы.