Конрад Молодой был сыном каринтийского герцога Конрада I и Матильды Швабской. В 1011 г., после смерти отца, Конрад, будучи ещё ребёнком, был отстранён от престола Каринтии, который император Генрих II передал своему приближённому Адальберо Эппенштейну. Конрад сохранил лишь часть владений своего деда Оттона I в долине Рейна (Шпейер, Вормс). В 1024 г. Конрад выдвинул свою кандидатуру на выборах короля Германии, однако проиграл своему двоюродному брату Конраду Шпейерскому.