Origine
Carlo era l'unico figlio del
Maggiordomo di palazzo di
Austrasia e in seguito maggiordomo di palazzo di tutti i regni dei Franchi,
Pipino di Herstal (o Pipino II, che era figlio di
Ansegiso) e di
Alpaïde di Bruyères, (ca. 650-†
717), di cui non si conoscono gli ascendenti, ma che secondo l
'Ex Chronico Sigeberti monachi era sorella di un certo Dodone, domestico di Pipino II, che martirizzò il vescovo di Liegi, San Lamberto. Il titolo Martello (diminutivo di Marte), secondo un'ipotesi, gli viene attribuito da alcuni cronisti della dinastia carolingia per enfatizzare la sua particolare capacità bellica.