Как при самодержавной монархии власть передавалась по наследству?

По наследству и передавалась.

От отца к старшему сыну. Если у правителя не было сыновей, то его брату по старшенству. Если "плохо шарил" в управлении государством ему всё "подсказывали" приближённые, конечно, что им было выгодно.

Поэтому-то раньше правители и пытались наплодить побольше детей, чтоб было кому передать престол.

Когда после смерти Фёдора Иоановича, у которого не было сыновей, род Рюриковичей прервался; на царство всё равно искали близких по крови. Годунов хоть и был царю свойственником, но по крови не имел права на престол. После всех смут, семибоярщин, лжедмитриев и проч, на царство всё равно пригласили хоть и дальнего, но родственика Рюриковичам, Михаила Романова. Происхождение было очень важно.

Примеры можно найти в истории. Например, император Александр Первый умер бездетным, поэтому, власть перешла к его младшему брату Николаю. Хотя он был лишь третьим сыном Павла Первого. Но, второй сын Константин написал отречение от престола. И императором стал человек, который и мечтать не мог о престоле.

В XVIII веке Петр изменил закон о престолонаследии. По новому указу действующий правитель сам мог назначить наследника, причем, независимо от степени родства. Такое правило действовало до вступления на престол Павла в конце XVIII века. Он вернулся к старой "схеме" - от отца к сыну, или младшему брату, при отсутствии сыновей. Вскоре так и случилось с его сыновьями.

Тогда кому завещают.Не успеют завещать ,бояре сами выбирают кого позвать на царство.