Gioventù e inizi della carriera: gli anni alla CBS
Davis viene da una famiglia proletaria di origini
ebraiche e crebbe a
Brooklyn,
New York. Ricevette dalla madre il nome di Clive, che era una grande fan di un attore britannico con lo stesso nome. Davis si diplomò alla Phi Beta Kappa della New York University College of Arts and Science nel
1953 e ricevette un diploma superiore in legge alla
Harvard Law School. Dopo il diploma divenne praticante legale in un piccolo studio legale e si trasferì in seguito allo studio
Rosenman, Colin, Kaye, Petschek and Freund, che aveva come cliente la
CBS Records. Davis venne assunto come assistente al dipartimento legale della
Columbia Records, appartenente alla CBS.