公元476年西罗马帝国在人口与社会结构的疲软中率先崩塌，而东罗马（拜占庭帝国）则延续了上千年。面对东方兴起的伊斯兰文明、巴尔干和安纳托利亚方向的长期军事压力，以及西部边疆的其他挑战，东罗马一直在与人口动荡、财政困境、领土萎缩、精英集团内耗等内外重重危机中勉力而为。最终，即使是基督教所凝聚的精神共同体以及主题制所构筑的军事体系，也未能使这个帝国永远摆脱内外危机，奥斯曼土耳其的崛起加速了君士坦丁堡的陷落。从王政时期开始的罗马作为一个政治实体的连续历史就此终结。东罗马帝国的灭亡既是军事上的失败，也是长期社会、财政与人口困境积累的最终结果。
罗马帝国虽成历史，但是罗马文明的遗产深远而持久。罗马法律体系、元老院与人民共治的制度、罗马建筑艺术、工程技术和城市规划，以及拉丁语及其文化衍生的文学、哲学与教育传统，都深刻影响了后世欧洲文明。希腊化的东罗马对基督教世界的塑造、对古典文化的保存和传播，使得西方中世纪与文艺复兴时期的思想与制度能够在罗马精神的基础上继续发展。
随着罗马帝国作为统一政治实体的终结，帝国时代那种以罗马公民身份为核心的政治共同体逐渐消失。 在帝国西部，曾经生活在罗马帝国西部的诸多人口，在罗马化、民族迁徙与长期融合中逐渐形成了如今广布世界的“罗曼语族”。这些罗曼语族人在文化和语言上继承了拉丁语和罗马文明，但是并不自称为“罗马人”，他们是历史的旁支、融合的后代。曾经辉煌、统御地中海、塑造法律与文明的古罗马，如今只以思想、语言、制度和艺术的残影存活。
而在帝国东部，希腊语言为主要语言、东正教认同共同塑造的文化与民族意义上的“罗马人”还在奥斯曼帝国的统治下长期存续，自称为“罗马人（Rhomaioi，现代希腊语 Romioi）”。最终，在近代民族主义浪潮中，这些最后的“罗马人”随着语言、族群和民族认同的重新塑造，逐渐淡去了共同的“罗马人”认同，纷纷重新拥抱各自新的、却又古老的身份认同。这些人群中最大的部分重拾起希腊的往日荣光，古典希腊传统被重新置于民族历史的核心，而“罗马人”更多转化为宗教、民间和拜占庭传统中的身份。作为一个跨越帝国时代的政治民族名称，“罗马人”终于凝固为历史；但作为文化记忆和身份传统，它并没有真正消失。
对罗马过去的辉煌文明的敬意并未随着罗马帝国的灭亡与罗马人的退场而散去。中世纪的“神圣罗马帝国”，以及俄罗斯自认“第三罗马”的行为，表明罗马的名号依然有着巨大的精神感召力。远在美洲大陆的英国殖民地人民反抗英国统治时，在构建新的国家时，依然追怀罗马的荣耀与伟大，让古典时代关于元老院、人民代表与混合政体的政治理想重新获得生命，最终在现代美国的参议院与众议院制度中留下了清晰的回声，美国也曾被赋予“新罗马”的象征性想象。
回顾罗马的繁荣到最后那个仍以“罗马人”自称的历史共同体逐渐消逝的过程，让人感到悲悯的是，一个曾经具有强大生命力的文明共同体，最终随着其历史主体的消亡，成为一曲绝唱。旁系中那若隐若现的罗马影响力，反倒使人在重新想起那个曾经辉煌而强大的文明时，往往留下深深的叹息。