神圣罗马帝国的统治完全是中世纪式的，皇帝没有实权，实际权利掌握在300多个大小领主手中，(对此法国著名启蒙思想哲学家伏尔泰曾有如下评价：“神圣罗马帝国既非神圣，也非罗马，更非帝国。”)所以它的统治是很分裂的。各地领主完全自治，拥有自己的军队，朝廷，甚至有收税的权力。一位商人走200公里，竟然需要交13次税!这种制度严重足碍了帝国的工商业发展。而且，教皇在此也有很大权力，著名的“什一税”就是教皇的发明。由于神圣罗马帝国借助教会来宣扬自己的神圣性，它对教会也负有义务，因此多少受到教会制约。虽然其中也有个别皇帝凭借自身能力与魅力迫使教会就范，但也是表面与暂时的。总而言之，这个帝国的国力是很差的。
另外在“三十年战争”后，帝国被其他国家分成300多小国，沦为二流国家。
评价
法国文学家伏尔泰曾这样评价它：“既不神圣，也不罗马，更非帝国。”这也从侧面反映出神圣罗马帝国在历史上未有过正统的根源与名号，与前罗马帝国几乎无任何关系。
教宗利奥三世认为公元800年查理曼大帝的加冕标志着神圣罗马帝国的开端，不过作为历史研究，由于查理曼与奥托一世的统治核心区域和统治方式的截然不同，一般的历史研究还是认为查理曼的帝国和奥托一世的帝国算成2个帝国。
但是以欧洲传统的皇冠(王冠)传承理论来说，无论谁在哪个地区立国，只要皇冠仍是原来那顶皇冠(王冠)，就算作是同一个国家的规则，则奥托一世只是神圣罗马帝国的一个王朝的开创者，而不是帝国开创者。
这与罗马帝国和东罗马帝国是一样的，东罗马帝国在历史研究上往往与罗马帝国被认为是2个帝国。但在皇冠传承上来说，东罗马帝国的皇冠是罗马帝国的皇冠分出来的，自然是同一帝国，尤其在西罗马帝国灭亡之后。
这种现象在王国也有类似情况，如西哥特王国是在图卢兹建立的，主要控制区域是今法国南部地区，后来迁到托莱多，主要控制区域也变成今西班牙地区。则汪达尔王国建立时在今西班牙地区，后来迁到北非去了。
因此，查理曼帝国是否算作泛义的神圣罗马帝国，因为划分标准不同，历史学家持不同意见是正常的。在《席德梅尔的文明Ⅳ》中，就将查理曼算作神圣罗马帝国的君主。