Antes do moderno, sistema prefeitura ser estabelecido, a terra do Japão foi dividida em dezenas de kuni (国, países), geralmente conhecido em Inglês como provinces. Cada província foi dividida em gun (郡, distritos; anteriormente denominado kōri).

O Japão está subdividido em 47 províncias. Existem quatro designações diferentes para estas divisões administrativas (chamadas de 都, to; 道, dō; 府, fu ou 県; ken, daí o nome genérico japonês 都道府県 todōfuken). Prefeituras são maiores que os organismos governamentais cidades, vilas e aldeias.