Il Parco ha come elemento caratterizzante la dorsale appenninica ad andamento tendenzialmente nordovest/sud-est.
Dal crinale, si sviluppano nel versante romagnolo, una serie di contrafforti secondari subparalleli che danno origine a diverse vallate laterali.
Le quote del Parco variano da 400 a 1.658 metri: il Monte Falco (1.658 m) ed il Monte Falterona (1.654 m), da cui sorge il fiume Arno, sono le vette più alte.
La geologia del versante romagnolo è caratterizzata dalla presenza della formazione marnoso arenacea, costituita da sedimenti di ambiente marino profondo, con grandi banchi di arenaria intercalati a strati di sottili marne. Nella parte toscana il “macigno” costituito da banchi di roccia arenacea alternati a scisti argillosi e marne grigie, è la formazione geologica più presente.