谢重辉年仅6个月时，67岁的谢升于顺治二年（1645）正月十九日去世。按照清初荫封标准，谢重辉被恩荫为从七品的中书舍人。谢重辉25岁时，于康熙八年（1669）赴吏部领职，后历官刑部主事、刑部员外郎、刑部郎中。
谢重辉出生于仕宦之家，母亲于氏非常注重对谢重辉的培养教育。明代遗老卢世、程先贞、赵继鼎，清代进士李源、李浃、李涛等大师级人物，都与谢氏家族有着亲友关系，这为谢重辉的成才提供了有力支持。谢重辉出仕前与顾炎武亦师亦友的关系，是他人生中第一次重大收获。
顾炎武因躲避战乱而游历山东、山西以及京城诸地，与德州程先贞等多人志同道合，多次到德州交游访友。谢重辉不仅听取了顾炎武的易经讲座，也就许多学术问题与之展开讨论。顾炎武曾留宿谢重辉家中，为他提供了难得的学习机会。史书记载，谢重辉出仕时，身上就揣着顾炎武写给颜光敏要求照顾谢重辉的手书。谢重辉出仕居住北京后，顾炎武在北京游历也曾一度住在其家中。
谢重辉出仕后不久，结识康熙朝诗坛盟主王士。王士是济南府新城县（今山东省桓台县）人，任官刑部尚书，是谢重辉的顶头上司。正是谢重辉与王士的相识相知，神韵派诗说才得以创立。王士是神韵派诗说的提出和总结者，谢重辉则是神韵派诗说重要的践行和拥护者。康熙十六年（1677），王士编选《金台十子诗》刊行，山左占其四，谢重辉是其一，因谢重辉引荐才有幸跟王士学诗的田雯居其二。
谢重辉为官以清节著称，他的仕途前期比较顺利，但后期因王士的致仕，政治上失去好领导、好朋友，加之那时朝廷上科举入仕的官员看不起非科举入仕的官吏，认为这走的是歪门左道。这对于没有正规学历的谢重辉来说，难免觉得心灰意冷。于是他毅然放弃仕途而隐居故土。
康熙三十四年 （1695），谢重辉引疾归里，隐居于城南杏村别墅，即今天的黄河涯镇谢家坟村，整日以诗酒为乐，后集齐晚年所作成《杏村集》七卷。谢重辉出仕前和为官时的作品荡然无存，据他的好友徐嘉炎所作 《谢方山匏斋诗略序》推断，谢重辉至少还应有一本《匏斋诗略》。谢重辉在清代德州诗坛占有重要地位，沈德潜《清诗别裁集》所录7位德州诗人与30首德州诗中，他的诗多达7首，占43%。极具大家风范。
王士致仕归里后，康熙四十一年（1702）至康熙四十七年（1708）间，谢重辉年年给王士送罗酒，王士也是几乎每年都来德州一趟探望谢重辉，杏村别墅也就成为大师们多次聚会的场所。
谢重辉与同里田雯的交往也是后人学习的典范。田雯比谢重辉大9岁，两人作为同在京师为官的德州老乡，情趣相投，后来田雯次女嫁谢重辉子谢粲，两人又成为儿女亲家。无论在京为官时期还是致仕里居后，谢田两人都能作诗酬赠。田雯死后，谢重辉每过田雯的坟墓总会痛哭流涕，足见其感情至深。
谢重辉与山西蒲州布衣诗人吴雯的关系也很好。吴雯，名吴天章，本是辽阳人，因父亲在山西做官而寓居山西成为山西人。他出生后不久家庭就已破落，而且他本人一再科考落式，但诗写得特别好。与谢重辉、王士友善，成为神韵派诗说的骨干人物。史书记载，朝廷“诏征博学宏词，郎中（谢重辉）乃上之”，即推荐吴雯入选。
谢重辉曾对清初德州多位诗人有过精辟评论。在他的《感里中亲旧》诗中说：“程赵（程先贞，赵其星）爱文史，乡党号书淫。二李（李源，李浃）嘉精深，卷轴无纤尘。蒙斋（田雯）独好奇，佶屈不由人。大木（冯廷）尤挺拔，造语每清新。解（邂）后必昵我，暂睽犹比邻。绸缪羡侨札，反复笈张陈。回首三十载，含意向谁伸。一起钟期思，挥琴泪沾巾。 ”诗中以平和的口气评述了程先贞、李源、李浃等人的学识、爱好、以及诗文特色，是研究清初德州文坛人物的经典词句。
留有《杏村诗集》
汪灏 《送谢方山郎中告归》写道：“真得意时惟啸咏,不如人处是功名。 ”谢重辉虽然没有做到父亲那样的高官，但他在文学方面的贡献远远超过其父。
《杏村诗集》是谢重辉留给今人的唯一书籍。他早期作品均已散失无存，只有致仕归里后所著的 《杏村诗集》被收入《四库全书》。 《杏村诗集》共7卷，存诗592首，收录的诗篇是以年来分类设卷的，包括壬午（1702年，康熙四十一年）诗96首；癸未（1703年，康熙四十二年）诗72首；甲申（1704，康熙四十三年）诗 77首；乙酉（1705，康熙四十四年）诗92首；丙戌（1706，康熙四十五年）诗80首；丁亥（1707，康熙四十六年）诗99首；戊子（1708，康熙四十七年）诗76首。
从时间上看，《杏村诗集》是诗人58岁至64岁时所作。从内容上看，多为纪事与抒情相结合，《家存遗物》系列，每物一诗，如《冠簪》《飞鱼》《象笏》等共20首；德州树木，每树一诗，如《柳》《松》《桑》等共22首；德州花草，每花一诗，如《探春》《海棠》《茑萝》等共21首。
谢重辉的诗，不是一般交际场中浮泛庸俗的应酬歌词，而是选意必幽，择词必解，俗尘凡语，不侵其笔的严正之作，而涉及身世之感的又表现 “悲凉衰飒，托寄遥妙”。他在广泛吸取前代优秀作品精华的基础上，加以锤炼而成，从《楚辞》到唐代以至宋元明诸大家的作品，他都涉猎研究，做到“不傍篱落，不拾短停”，最后达到“浑雄隽拔而沉痛”的境界。因此，张维屏在 《国朝诗人微略》中言：“《杏村一集》，尽出晚作，盛年傅作概削不存。 ”
谢重辉的《杏村集》很像田园诗抄，多为农桑之事、过访赠答、游园观赏寺等闲适之作，写闲情、抒逸趣的诗篇多一些，但从这些诗篇中可以看到他思想的倾向和对美丑的辨识。有许多诗篇反映了清初社会矛盾的尖锐对立，对劳动人民的生活疾苦寄予了无限同情，对官府胥吏的残暴给予了无情揭露。
谢重辉除部分较有社会意义的诗作外，人生过客的思想也很突出，特别是在怀古、悼亡诗中表现得最为明显。谢重辉是王士神韵说的唱和者，追求冲淡诗中的弦外之音，在他的五古田园诗中最为突出。他的《敝庐》诗，景物皆任其自然，情景生动，引人入胜。 “不须更向径行处，且向前溪共枕流”等诗句更可以把人带入仙境。谢重辉真不愧为我国诗歌史上一颗璀璨的明珠！