Cannavaro debutó con el club de su ciudad natal, el SSC Napoli, en el año 1992. Sin embargo en la mayor parte de su carrera ha militado en el Parma FC, donde permaneció desde 1995 hasta 2002. Durante esta etapa formó parte de una de las defensas más recordadas del fútbol italiano, junto a Lilian Thuram y al guardameta Gianluigi Buffon. Junto a ellos conquistó una Copa de la UEFA, dos Copas de Italia y una Supercopa. Después de estos triunfos el Parma dejó de estar en un primer plano del fútbol europeo e italiano, y Cannavaro decidió fichar por el Inter de Milán. Ante la falta de títulos, y a pesar de ser titular indiscutible, decidió fichar por la Juventus en 2004, en busca de su primer campeonato italiano. Su objetivo se cumplió en su primera temporada en el club, y también pudo revalidar la liga en la temporada 2005-06. El 19 de julio de 2006 fue fichado por el Real Madrid, junto con su compañero de equipo el brasileño Emerson, por aproximadamente 8 millones de euros para jugar las próximas dos temporadas, con opción a una tercera, en el nuevo proyecto encabezado por Fabio Capello, como entrenador, Predrag Mijatović, como director técnico y Ramón Calderón como presidente de la entidad madrileña. Proveniente de la Juventus y vistiendo los colores del club blanco ganó el Balón de Oro en 2006 de la revista francesa France Football, otorgado al mejor jugador de las ligas europeas por los corresponsales de la misma. Su actuación en la Copa del Mundo y en la Juventus le ayudó a imponerse al también italiano Gianluigi Buffon y al francés Thierry Henry. Cannavaro es el quinto italiano en ganar dicho premio, sumando su nombre a un grupo que incluye a Roberto Baggio (1993), Paolo Rossi (1982), Gianni Rivera (1969) y el italo-argentino Omar Sivori (1961) y es apenas el tercer zaguero que gana el galardón. Los alemanes Matthias Sammer (1996) y Franz Beckenbauer (1972 y 1976) fueron los otros. Además, fue el ganador del Premio al Mejor Jugador del Mundo, que otorga la FIFA, superando al francés Zinedine Zidane y al brasileño Ronaldinho.