Mács József 1931. április 18-án született Bátkán, Csehszlovákia Rimaszombati járásában. A 2. világháború után gimnáziumának tanítási nyelve a szlovák lett, ezért 1947 szeptemberében átszökött Magyarországra. Ez után a sárospataki református tanítóképzőbe, a miskolci Lévay József Gimnázium pedagógiai tagozatára és a Pozsonyban 1950-ben megnyílt Magyar Pedagógiai Gimnáziumba járt, majd a pozsonyi Szlovák Pedagógiai Egyetem magyar tagozatán a magyar, történelem, társadalomtudomány szakot elvégezve tanári képesítést szerzett.
Mács József az ötvenes évek első felében, írói indulásakor versekkel kezdte, riportokkal és elbeszélésekkel folytatta, majd regényíró lett belőle. Elbeszéléseiben, regényeiben szülőfalujáról, Gömör megye "jó palócairól" és a felvidéki magyarság veszélyeztetettségéről, sorskérdéseiről, megmaradásának esélyeiről írt rendíthetetlen elkötelezettséggel - hangsúlyozta az MMA közleménye.
Az anyanyelv védelme, a magyar iskolák ügye és általában a nemzetiségi kérdés a hatvanas évek derekától, majd az 1968-as prágai tavasztól egyre nagyobb hangsúllyal volt jelen irodalmi munkásságában és publicisztikai írásaiban. Sokáig 1968-ban megjelent, Adósságtörlesztés című regényét tartották pályája csúcsának, megfeledkezve munkássága újabb eredményeiről. 1991-től, a Héttől nyugdíjba vonult Mács József szépirodalmi munkásságában megújulás volt tapasztalható; a mindennapos szerkesztőségi munkától szabaduló író több időt fordíthatott az alkotásra.
Mács József főműveként az MMA méltatása az 1998 és 2001 között kötetenként megjelent, Öröködbe, Uram... című tetralógiát jelöli meg, melyhez az író felhasználta édesapja családtörténeti és önéletrajzi feljegyzéseit is, pontos képet festve a századforduló Magyarországáról, az egykori Felvidékről és Gömörről.
Az elcsatolt vagon című, 2014-ben megjelent regényéért a Magyar Művészeti Akadémia Irodalmi Tagozatának Könyv Nívódíját kapta meg 2016 novemberében.
Kitüntetései, díjai: Madách Imre-díj (1969), a Szlovák Köztársaság Kormányának Ezüstplakettje (2001), Aranytoll-díj (2002), Madách Posonium életműdíj (2004), a Magyar Köztársaság Arany Érdemkeresztje (2011), a Magyar Érdemrend tisztikeresztje (2014).
Mács József a Szlovák Írószövetség Magyar Szekciója vezetőségi tagja (1959-1970), 1993-tól a Magyar Írószövetség tagja; 2005-től a Magyar Művészeti Akadémia társadalmi szervezet, majd 2011-től a Magyar Művészeti Akadémia rendes tagja, valamint Hódmezővásárhely tiszteletbeli polgára és Bátka díszpolgára volt.