1941. július 16-án Budapesten született. Már tizenegy évesen a III. Kerületi TTVE csapatában rúgta a labdát, 1959-ben igazolta le a Vasas SC. Az angyalföldi klubhoz visszavonulásáig, 1972-ig hű maradt, a csapat meghatározó tagjaként 279 bajnoki mérkőzésen lépett pályára. Minden idők egyik legjobb magyar középhátvédje 32 gólt szerzett, remekül fejelt és általában ő rúgta a 11-eseket is. A Vasassal négy bajnoki cím mellett (1961, 1962, 1965, 1966), három Közép-Európai Kupát (1962, 1965, 1970) nyert, 1962-ben idehaza az év labdarúgójává választották.

1961-ben lett a válogatott tagja, és 1971-ig 61-szer húzhatta magára a címeres mezt, a Vasas játékosai közül e téren máig ő a csúcstartó. A nemzeti tizenegyben hat gólt szerzett, ebből négyet tizenegyesből, s háromszor volt Európa-válogatott. A Szőke Szikla becenévre hallgató védő két világbajnokságon vett részt, a válogatott 1962-ben Chilében és 1966-ban Angliában is a negyeddöntőig jutott. Angliában a csoportmérkőzések során világszenzációt keltve 3-1-re legyőzte Magyarország a kétszeres világbajnok Brazíliát. A harmadik gólt Mészöly vágta be tizenegyesből (a rádióriporter Szepesi György szerint a lövés előtt a csapatból senki sem mert odanézni), s a mérkőzést kiugrott válla miatt felkötött karral játszva fejezte be. 1964-ben részt vett a futball történetének második Európa-bajnokságán (hivatalosan Európai Nemzetek Kupája), Spanyolországban, ahol a bronzmérkőzésen 3-1-re verték Dániát. 1969-ben ő is ott volt Marseille-ben, a csehszlovákok ellen 4-1-re elvesztett pótselejtezőn, ami után a válogatott első alkalommal nem jutott ki a selejtezőből a világbajnokságra. A "magyar futball Mohácsa" után hangzottak el Mészöly szájából a keserű szavak: "a mi időnk lejárt..." Később azt mondta: ő úgy értette, hogy változtatni kell a szemléleten, az MLSZ vezetésén, de a sportvezetés szó szerint értette és a harmincon felüli játékosokat "öregnek" minősítette.

Visszavonulása után, 1972-től a másodosztályú Ganz-Mávag SE, majd a Budafoki MTE vezetőedzője lett, 1974-ben megszerezte a labdarúgó-szakedzői diplomát, 1982 óta mesteredző. 1976-tól Békéscsabán dolgozott, 1978-80 között és 1983-84-ben a Vasas SC vezetőedzője volt, a csapattal 1980-ban bronzérmet szerzett a bajnokságban. 1985-ben a török válogatott szövetségi kapitánya, 1985-86-ban a Fenerbahce, 1986-ban az Altay Izmir vezetőedzője volt. 1988-ban, amikor a Zalaegerszegi TE szaktanácsadójaként dolgozott, egy bajnoki találkozó után bundagyanú miatt fél évre eltiltották a labdarúgástól. Ezután egy idényen át ismét a Vasas vezetőedzője volt. Az 1991-92-es idényben a szaúd-arábiai al-Ittihád, 1993-94-ben ismét a Vasas csapatánál edzősködött.

Szövetségi kapitányként összesen 61 mérkőzésen ült a kispadon. Először 1980-1983 között, amikor a nemzeti csapat irányításával első helyen jutott ki az 1982-es spanyolországi világbajnokságra, pedig a csoportban olyan erős riválisok szerepeltek, mint Anglia és Románia. A válogatott a vb-n első mérkőzésén 10-1 győzött Salvador ellen, máig ez a világbajnokságok történetének legnagyobb arányú sikere a Magyarország- Dél-Korea 1954-es 9-0-ás diadallal együtt, és az egyetlen, amikor kétszámjegyű eredmény született. Ezután azonban vereség következett Argentínától és döntetlen Belgiummal szemben, s a magyarok számára véget ért a vb. Mészöly Kálmán másodszor 1990-91-ben lett szövetségi kapitány, 18 mérkőzésen át vezette a nemzeti csapatot, de a svédországi Európa-bajnokságra nem sikerült kijutni. 1994-ben harmadik alkalommal is elvállalta a kapitányi posztot, de miután az angliai Eb-re nem jutott ki a csapat, 1996-ban lemondott.

1998-tól a Magyar Hivatásos Labdarúgó Liga társadalmi elnöke, majd szakmai igazgatója, 2007-ig a Magyar Labdarúgó Szövetség (MLSZ) elnöki tanácsadója volt, 2011-ben klubtanácsadóként visszatért a Vasas-Híd labdarúgócsapatához. Szaktanácsadóként szerepet vállalt a 2012-es Eb megrendezéséért folytatott kampányban.

Mészöly Kálmánt 2011-ben a Magyar Köztársasági Érdemrend tisztikeresztjével tüntették ki, ugyanabban az évben Pro Urbe díjat kapott. 2013-ban a Vasas életműdíjat adományozott neki, 2016-ban Csík Ferenc-díjat kapott. 2014-ben jelent meg A Szőke Szikla című életrajzi regénye, amelyet Sinkovics Gáborral közösen írt. Két fia is a labdarúgásban dolgozik: ifjabb Mészöly Kálmán és Mészöly Géza is edző lett, Géza játékosként a válogatottságig jutott, és az utánpótlás válogatott szövetségi kapitánya is volt.