1931. szeptember 9-én született Budapesten. Apja, Latinovits Oszkár délvidéki földbirtokos egy nappal ezután elhagyta a családot. A Gundel famíliából származó anyja később Frenreisz István belgyógyászhoz ment férjhez, ebből a házasságból született Bujtor István színész és Frenreisz Károly zenész. Latinovits érettségi után asztalos tanonc, hídépítő munkás volt, majd a Budapesti Műszaki Egyetem építészmérnöki karán tanult, magas szinten kosárlabdázott is, és szenvedélye volt a vitorlázás.

A gimnáziumi színkörben egy epizódszerepben figyelt fel rá Bajor Gizi, aki a legenda szerint azt mondta neki: magának feltétlenül színésznek kell lennie. 1956-ban építészmérnöki diplomával szerződött a debreceni Csokonai Színházhoz, egy év múlva Miskolcra került, ahol a társulat vezető színésze lett. 1960-ban Pavel Kohout Ilyen nagy szerelem című drámájában partnere a vendégszereplésre meghívott Ruttkai Éva volt, kettejük között életre szóló szerelem szövődött. Latinovits 1962-től a Vígszínház, 1966-tól két évig a Thália Színház, majd 1969 és 1971 között ismét a Vígszínház tagja volt. A fővárosban ezután gyakorlatilag bojkottra ítélték, ezért 1971 és 1973 között a veszprémi Petőfi Színháznál dolgozott, ahol rendezőként is bemutatkozhatott. Utoljára az Operettszínházban Békeffi István A kutya, akit Bozzi úrnak hívtak című zenés játékában lépett színpadra.

Számtalan színpadi szerepe közül talán a legemlékezetesebb a vígszínházi Rómeó alakítása a Júliát játszó Ruttkai Évával, továbbá Savonarola (Thomas Mann: Fiorenza) Ivan Karamazov (Dosztojevszkij: Karamazov testvérek), Cipolla (Thomas Mann: Mario és a varázsló), a festő (Arthur Miller: Közjáték Vichyben), Ványa bácsi Csehov drámájában és az őrnagy Örkény István Tóték című darabjában. Az Örkény-dráma filmváltozatában (Isten hozta, őrnagy úr) is ő játszotta az őrnagyot.

Ötvennél több filmszerepe közül kiemelkedik Büky százados (később őrnagy) a Hideg napokban, az Ötödik pecsét civil ruhás nyilasa, a Karinthy Frigyes művéből készült Utazás a koponyám körül című filmben az író és másik énje (ezért az alakításért a San Sebastián-i Nemzetközi Filmfesztivál legjobb férfiszínésznek járó díját vihette haza). Szerepelt többek között a Várkonyi Zoltán rendezte Jókai-adaptációkban (Egy magyar nábob, Kárpáthy Zoltán), Jancsó Miklós Oldás és kötés és Szegénylegények című korszakos filmjeiben is. Emlékezetes a 141 perc a befejezetlen mondatból Wavra professzora, a Pendragon-legenda Bátky Jánosa és természetesen a Huszárik Zoltán rendezte Szindbád, a magyar filmtörténet egyik kiemelkedő alkotása, a szerep, amely összefonódott Latinovits nevével.

Ha kellett, operettet játszott vagy sanzont énekelt, a Hol van az a nyár vagy a Szeretni bolondulásig 40 éve nem hiányzik a kívánságműsorokból. Rendkívüli tehetséggel, szuggesztíven adta elő Ady Endre, Kosztolányi Dezső, József Attila, Illyés Gyula verseit, szakítva a hagyományos, értelmező versmondással, hátborzongató szenvedéllyel szavalt. Utolsó rádiófelvételén, 1976. június 3-án a Rákóczi-induló című dokumentumjátékban Ady Két kuruc beszélget című versét mondta el.

Színpadi alakításait őszinte indulatok, belső tűz, az érzelmek és az értelem harmóniájából fakadó ábrázolás, egész munkásságát megszállott, kérlelhetetlen igényesség jellemezte. Ő maga azt mondta: "Igazságomból nem engedtem soha, káros szenvedélyem a dohányzás, meg az, hogy tehetségtelen, ezért rosszakaratú emberekkel összeférhetetlen vagyok". Harcait, igazságkeresését írásban is megfogalmazta a Ködszurkáló című önéletrajzi kötetében, a halála után megjelent Verset mondok című könyvben a szavalással kapcsolatos nyilatkozatait, tanulmányait, elemzéseit gyűjtötték össze.

Sokat viaskodott a hatalom képviselőivel és a színházi élet irányítóival, az általa elképzelt színházat a hozzá hasonló szemléletű színészek és színházi emberek közreműködésével soha nem hozhatta létre. Ha nagyon elkeseredett, azt mondogatta: Lehet, hogy mégis építésznek kellett volna lennem. Idegei felőrlődtek, egymást érték a kórházi kezelések, állapota egyre rosszabbodott. A mai napig vitatott, hogy 1976. június 4-én öngyilkossági szándékkal lépett-e a vonat elé a balatonszemesi vasúti átjáróban, vagy baleset történt. A helyi temetőben nyugszik, Szemesen működik 1984 óta a Latinovits Zoltán Emlékmúzeum. A modern magyar színháztörténet egyik legjelentősebb egyéniségéről barátja, Illyés Gyula így nyilatkozott: "Megsiratni való, hogy mint a többi veszélyes zsenit, őt sem tudtuk megtartani".

1966-ban Jászai Mari-díjat, 1970-ben Balázs Béla-díjat, 1975-ben érdemes művészi címet kapott, a Kossuth-díjjal 1990-ben posztumusz tüntették ki. Nevét viseli a Budaörsi Latinovits Színház, ahol Melocco Miklós által készített mellszobra is áll, a veszprémi színház Latinovits-Bujtor Játékszínje (féltestvére, Bujtor István 2008-2009-ben a teátrum igazgatója volt), valamint a Gundel Étterem kávézója, ugyanis a színész a ház első emeletén jött a világra. 2002-ben kisbolygót neveztek el róla.