В книгах часто встречаю выражение "ломать руки", то есть негодовать. Откуда такое выражение взялось? Звучит нелепо

Чаще все-таки руки не ломают, а заламывают - так говорят о жесте отчаяния, а вовсе не негодования, как Вы пишете. Это выражение встречается и в словаре Даля, и в очень многих текстах:

Звала — перестала.
Ждала — отреклась.
Быть может устала,
Быть может сдалась.
Заламывать руки
Не стану с тоски.
Забудутся звуки,
Затихнут звонки…
(Алигер).
Вот так, примерно:

Имеется в виду заламывать руки, кисти, а не ломать кости до переломов.
У Маяковского даже такое:

Любит? не любит? Я руки ломаю
и пальцы разбрасываю разломавши
так рвут загадав и пускают по маю
венчики встречных ромашек

Фразеологизм «Ломать руки» значение. Выражать свое отчаяние жестами. «Он умрет без меня, — воскликнула она, ломая руки» (И. Тургенев).

Это из разряда т. н. "литературных штампов". Данный относится к литературе романтизма. А в чем суть штампов? Что автор вставляет его, даже не понимая сути.

вы не наблюдательны
посмотрите как себя ведут люди в отчаянии, в непонимании...
всё очень к месту и по делу

Не ломать а заламывать руки... не знаю как на словах ну вот когда человек нервничает, он как бы пальцы рук сгибает, разгибает, вертит ими. Жестикулирует Просто потому что эмоции надо деть куда то..

Идиома "ломать руки" используется в значении ПРИХОДИТЬ В ОТЧАЯНИЕ, а вовсе не негодовать. Используется она, как правило (хоть и не всегда), когда нужно показать, что отчаяние преувеличенное, не адекватное поводу. Пошло это выражение от старой театральной традиции показывать страдания героев (в классической трагедии, к примеру) преувеличенными жестами, которое именовалось тогда заламыванием рук (в отличие от сегодняшнего дня когда это обычно обозначает насилие над человеком).

Телесное выражение эмоций, экспрессии.
Не забывайте, хорошее воспитание (до Октябрьской революции 1917 г.) запрещало для женщин размашистые жесты, беготню, крики, повышение голоса, грубые выражения, так что максимум, что дамы себе могли себе позволить -- это ломать руки, т. е. сжимать их, теребить платочек и т. п. сдержанно жестикулировать.

первый раз такое слышу, обычно говорят ломать голову

По моему все логично. Человек, когда нервничает, переживает и т. п. непроизвольно на эмоциях начинает производить руками какие-то неосознанные движения - теребить кольца на руках, растегивает/застегивает пуговицы, перебирает какие-то предметы на столе, ломает спички...