Карл Валь был младшим из 13-ти детей в семье машиниста и в юношеские годы выучился профессии слесаря. В
1910 году он на 2 года ушёл добровольцем немецкую армию, во II Баварский истребительный батальон в г.
Ашаффенбург. Затем Валь окончил санитарную школу.
С началом в
1914 году
Первой Мировой войны Карл Валь был в чине фельдфебеля призван на военную службу в качестве фронтового санитара, но уже в октябре он был тяжело ранен, и вернулся на фронт лишь в
следующем году. В
1919 году, после окончания войны, Карл Валь стал руководителем основанной Фридрихом Гессингом больницы в Гёггингене (Аугсбург). В
1922 году он вступил в
NSDAP и в
SA, стал руководителем
SA Аугсбурга. Во время запрета
NSDAP был членом народного блока.
26 февраля 1925 года, после восстановления
NSDAP, вторично втупил в партию (получил партбилет №9803) и вскоре стал ортсгруппенляйтером, а затем крайсляйтером
Аугсбурга. В
1928 году был избран членом баварского
ландтага.
1 октября 1928 года, когда было сформировано
гау Швабия, Карл Валь был назначен его гауляйтером. В
1931 году Валь основал в Швабии газету националистической направленности «Neue National-Zeitung».