A ligação de Giuliani a Nova Iorque levou a que em 1989 se candidatasse a prefeito da cidade (o equivalente a prefeito no Brasil ou presidente da Câmara Municipal em Portugal) pelo partido Republicano, sendo apoiado pelo Partido Liberal. Perdeu por uma margem mínima contra o democrata David Dinkins, mas insistiu na corrida em 1993, baseando a sua campanha na qualidade de vida, combate ao crime, desenvolvimento do comércio e da educação. De novo contra Dinkins, desta vez ganhou, o mesmo se passando em 1997, aqui por larga margem. Com Giuliani como mayor os crimes em Nova Iorque desceram 57%. Só os assassinatos foram reduzidos em 65%. A partir daí, o FBI considerou Nova Iorque a mais segura das grandes cidades norte-americanas. Passou a ser um modelo para outras cidades e viu crescer o número de turistas. Outra das medidas do republicano Rudy Giuliani foi limpar a cidade, o metrô e os espaços públicos, sendo o melhor exemplo Times Square.

Era ele o prefeito quando se deram os Ataques de 11 de Setembro de 2001 que causaram centenas de vítimas no World Trade Center.