Geralmente, "One Sweet Day" foi recebida com opiniões positivas pelos críticos especialistas em música contemporânea que elogiaram o conteúdo da letra e os vocais dos artistas, bem como notando a faixa como um destaque em Daydream. A música alcançou um enorme sucesso nos Estados Unidos, onde ocupou por dezasseis semanas consecutivas o primeiro posto da tabela Billboard Hot 100, sendo que até aos dias de hoje, detém o recorde de canção com mais tempo de permanência na liderança da tabela. Também alcançou semelhante êxito em todo o mundo, classificando-se no topo das listas do Canadá e da Nova Zelândia, e dentro das dez melhores colocações da Austrália, Bélgica, França, Irlanda, Noruega e Reino Unido. Além disso, "One Sweet Day" foi considerada pela revista Rolling Stone como a "Melhor Colaboração de Todos os Tempos".

Carey cantou "One Sweet Day" ao vivo na televisão por várias vezes em diversas cerimónias de entrega de prémios ao redor do mundo. Ela apresentou-a juntamente com Boyz II Men na trigésima oitava cerimónia anual dos Grammy Awards, realizada na noite de 26 de Fevereiro de 1996. Além disso, foi interpretada no serviço memorial da Princesa Diana em Setembro do ano seguinte. O single fez parte do repertório de várias digressões de sucesso de Carey, fazendo sua estreia durante a Daydream World Tour (1995) e é apresentada nos álbuns de compilação #1's (1998), Greatest Hits (2001), The Ballads (2008), LoveSongs (2010) e #1 to Infinity (2015).