Im Alter von neun Jahren zog Williams von Romford nach London um, schon früh trug er lange Haare und ausgefallene Kleidung und sah sich in der Musik-Szene um. Er grenzte sich vom Arbeiterleben in der Fabrik, das sein Vater führte, gezielt ab, genau wie Angus und Malcolm Young von AC/DC.
Ende der 60er Jahre trat er einer Soft- und Hard-Rock-Band namens Home bei. Diese wurde nach einigen kleineren Erfolgen aufgelöst, sodass Williams um 1977 eine neue Band suchte.
AC/DC suchte 1977 einen Nachfolger für Mark Evans und fand ihn in Williams. Dem damaligen AC/DC-Manager Michael Browning zufolge wollte die Band eigentlich einen anderen Bassisten, der aber Brownings Meinung nach nicht zur Band passte. Daher gab Browning Williams, bevor dieser vorspielen musste, einige Tipps, wie er sich verhalten solle (insbesondere sollte er möglichst anspruchslos und einfach spielen). Williams nahm sich dies zum Herzen und ist seit dem 27. Mai1977 Bassist der Band.
Seinen ersten Auftritt mit AC/DC hatte er am 7. Juli 1977 in Cleveland in den USA.
Er hat bis heute 13 Alben mit der Gruppe aufgenommen.
Er ist mit dem deutschen Sänger Matthias Reim befreundet und unterstützt dessen Studioarbeit in den USA.
Cliff Williams spielt hauptsächlich Music Man-Bässe, aber auch Bässe des Herstellers Fender.