В момент смерти своего отца Генриху исполнилось лишь четыре года и первое время от его имени Баварией правила мать Юдита. Уже в девятнадцатилетнем возрасте Генрих II организовал заговор против императора
Оттона II в
974 г., стремясь завладеть престолом
Германии. Однако мятеж был раскрыт, а Генрих заключён под стражу в Ингелгейм. Вскоре ему удалось бежать и вернуться в Баварию, где он поднял восстание. Имперские войска в
976 г. вторглись в герцогство и разбили Генриха II. Он был вынужден бежать, а корона Баварии был передан племяннику императора Оттона II Оттону Швабскому. Более того, восстание Генриха привело к разделу территории Баварского герцогства: в 976 г.
Восточная марка (будущая
Австрия) и
Каринтия, включающая территории от
Штирии до
Вероны, были отделены от Баварии и получили независимость.