Construída no século VIII como um santuário para relíquias de santos e mártires das catacumbas, a igreja é a igreja nacional da Grã-Bretanha em Roma. O termo latino "in Capite" é uma referência ao título de Silvestre I ("Silvestre Primeiro") e significa literalmente "em primeiro, em chefe ou na cabeça". Por coincidência honorífica, a basílica é também famosa por abrigar uma cabeça fragmentada que tradicionalmente acredita-se ser a de São João Batista e venerada como relíquia numa capela à esquerda da entrada. Em Roma há ainda uma segunda igreja católica dedicada a São Silvestre, San Silvestro al Quirinale.

O cardeal-presbítero do título de São Silvestre em Capite é Desmond Connell, arcebispo-emérito de Dublin.