Папа Урбан II је подстицао синове Хајнриха IV да се буне. Најпре се побунио старији син Конрад, па је Хајнрих IV одредио да му наследник буде млађи син Хајнрих V, којег је дао крунисати 1099. за краља Немачке. Папа се поново меша и прави проблеме у Немачкој, тако да се и сам Хајнрих V буни против оца 1105, па га свргава исте године. Хајнрих IV умире 1106. године.
Борба за инвеституру
Папа се надао да ће добити кооперативног краља Немачке, који ће пристати на то да краљеви не постављају бискупе. Хајнрих V се показује једнако тврд као и његов отац. Хајнрих V је инсистирао да он постане цар Светог римског царства. Папа није пристајао, па је Хајнрих V извршио инвазију Италије1110. године.
Под притиском Хајнрихове војске склопљен је договор 1111. да Хајнрих одустане од постављања бискупа, али да црква преда све поседе, које је добила од царева, још од доба Карла Великог. Папа Паскал II је нерадо на то пристао, а током припрема за Хајнрихово крунисање за цара народ Рима се побунио.
Хајнрих је утамничио папу и 16 кардинала и држао их затворене два месеца.
У помоћ папи долазили су савезници Нормани под водством Роберта I од Капуе. Хајнрих је успио одбити одвратити норманску војску у акцији спасавања. Папа је био принућен да се покори и да призна Хајнриху право да поставља бискупе. Хајнрих је одмах крунисан 13. априла 1111. године. Хајнрих се са војском повукао у Немачку тек кад је добио обећање од кардинала да неће да се свете због изнућеног признања кад се он са војском повуче преко Алпи.
Чим се Хајнрих повукао црквени концил је екскомуницирао цара, а концесије су прогласили неважећим, јер су добијене изнуђивањем.
Борба за инвеституру се наставила. Хајнрих је поново извршио инвазију Италије 1116. године. Поставио је антипапу. Спор је разрешен компромисним конкордатом из Вормса1122. по коме папа поставља бискупе, а цар их додатно поставља као феудалце. Цареви су тако задржали доста утицаја при избору бискупа.
Борбе у Бохемији, Пољској и Угарској
У Бохемији је трајао сукоб Сватоплука и војводе Чешке Боривоја II. Сватоплук је заробио Боривоја. Хајнрих је био незадовољан ратом у Бохемији, па присиљава 1107. Сватоплука да ослободи Боривоја II. Хајнрих постаје Сватоплуков кум, па овај ипак постаје војвода Чешке.
Хајнрих је 1108. кренуо у рат у Угарску против Коломана с намером да на угарски трон постави Коломанова брата Алмоша. Сватоплук се прикључио том војном походу, али због напада у Бохемији присиљен је да се врати. Боривој II је напао Бохемију уз помоћ пољског војводе Болеслава III. Хајнрих је остао са смањеном војном силом, па није успио да заузме Пресбург, а Коломан је харао по Моравији.
Хајнрих је био љут и одлучио је да се освети Пољској, Уз помоћ Свјатоплука напада Пољску. Опседали су Глогов1109. године. Пољска војска око Глогова је била поражена, а Болеслав III Пјаст се склонио у Глогов. Хајнрих је дао грађанима Глогова пет дана примирја, али да предају своју децу као таоце, да би се поштовало примирје. Обећао је децу предати након пет дана без обзира на одговор. Болеслав III Пјаст се није предавао, а Хајнрих је прекршио обећање и није вратио децу. Децу је везао за опсане справе да му буду живи штитови. У тој опсади је страдало много деце, а Глогов је одбрањен.
У бици на Псећим Пољима Пољаци су поново победили, па се Хајнрих повукао.