亨利恢复教籍保住帝位返回德国后,集中精力整治内部,平息以鲁道夫为首的诸侯反对派,曾一度危及他王位的内部反抗势力逐一告灭。格列高利七世认识到情况有变,于1080年再次对亨利四世处以绝罚(破门律),开除其教籍。亨利亦再度宣布废黜教皇,并任命一名敌对教皇克莱芒三世,随即率大军挥戈南下进军罗马(1084年),准备以武力雪洗“卡诺莎之辱”。亨利四世成功地占领了罗马,在那里由伪教皇克莱芒三世加冕为神圣罗马帝国皇帝。
格列高利七世弃城南逃萨来诺,他向盘踞在西西里的诺曼人首领罗贝尔·吉斯卡尔求援。吉斯卡尔欣然从命。结果诺曼人确实赶走了亨利四世,但他们同时洗劫了罗马。格列高利七世在孤独中客死意大利南部的萨莱诺(1085年)。亨利四世很快面对着新的挑战叛乱,继任教皇维克托三世联合帝国诸侯攻打亨利。1105年,亨利四世被推翻并遭到囚禁。后来,亨利逃往列日,并在那里去世了,新任教皇帕斯卡尔二世下令不得为亨利四世举行葬礼。
教皇与国王的权力之争并没有结束,双方的继承者仍然各不相让,斗争又持续了十多年。1122年,在德意志西部的沃尔姆斯城,罗马教皇和德意志国王共同签署了《沃尔姆斯协定》:皇帝无权直接任命德意志境内的主教,而是在有皇帝或他的代表出席的情况下,由教士自己选举产生;主教的政治权力由皇帝授予,宗教权力由教皇授予,神圣罗马帝国的至尊是罗马城的教皇,而皇帝沦为二号人物。
卡诺莎之辱将此时欧洲社会政治与宗教力量的不平衡,以及二者之间的矛盾性表现得淋漓尽致。这种情况,直到16世纪英国宗教改革确立“王权至尊”才出现转机,但它对人民的影响却是无法回避的。