Logo ao ser eleito, preocupou-se com o poder alcançado pelos bispos-condes, causa de lutas com seus súditos, e conseguiu vencer a resistência do bispo Ariberto de Milão. Sua nomeação foi um cumprimento expresso à vontade de
Henrique III, rei da
Alemanha. Apesar das circunstâncias de sua eleição, foi aceito tanto pelo povo como pelo clero.
Deliberou que toda nova eleição papal deveria ter sua origem em uma designação imperial. Logo depois de ser consagrado papa, coroou solenemente imperador germânico em São Pedro, dando-lhe o título de patrício dos romanos, o que dava ao imperador um peso decisivo na eleição papal e também o essencial apoio militar ao pontífice. Depois de ter acompanhado Henrique III à Alemanha, canonizou na Alemanha, Santa Viborata, mártir húngara. Numa das viagens para a Alemanha, Clemente II morreu de morte natural em
9 de outubro de 1047, em
Pesaro, foi sepultado em
Bamberg e foi sucedido por
Benedito IX (1047-1048).