芦台盛产芦苇。据传，唐太宗李世民率李家军行至现宁河区芦台镇时，称此地必成兵家必争之地，命人在此地设立观防台。士兵们以驻地在“芦苇之上观防台”告之家人，时间一久，这里被简称为芦台，沿用至今。
1881年，唐胥铁路开通，唐山之煤经铁路运至胥各庄装船，经运河运至芦台东北侧阎庄处的贮煤场，再经蓟运河转运至天津、上海等地。运煤途中反复装卸、倒运，且“河道春秋潮汛不大，煤船常有停棹候水之苦”，使运煤效率甚为低下，加之唐山煤矿采用西法采煤，产煤量不断提高，集煤日增。
1886年，为解决唐山煤矿的运输问题，在李鸿章提议下，唐胥铁路延伸至芦台阎庄，史称唐芦铁路，全长45公里。其实，李鸿章早有将铁路从唐山接修到天津的打算，在修建唐山至阎庄间铁路的同时，便开工修建阎庄至芦台间铁路，并在唐山至阎庄间铁路向天津延展的过程中将田庄至芦台间的铁路改线，使铁路从田庄直接通达芦台，不再经过阎庄。
1886年，中国第一个铁路公司——开平铁路公司成立。1887年唐胥铁路展筑至芦台（今宁河），称唐芦铁路；1888年展筑至天津，长130公里，称唐津铁路。图为1888年唐胥铁路展筑至天津，李鸿章（前左四）主持通车仪式并乘花车巡视。
1887年5月，芦台站建成。唐芦铁路通车后，运输能力大增。1888年10月，唐芦铁路接修至天津，史称唐津铁路。后来，唐津铁路或出于军事原因或出于经济原因，不断向两端展筑，形成了津山、京山、京沈铁路。
早年的芦台站，客货运任务并不繁忙，却拥有一座在当时被视为很豪华的天桥。20世纪20年代，张志潭任北洋政府交通部总长，而张志潭父母长期居住在芦台镇。一次，张志潭之母从芦台站乘坐火车去北京，横穿铁路时扭伤了脚，便埋怨身为总长的儿子。于是，就有了芦台站的这座豪华天桥。
在新中国成立之初，芦台站只有到发线股道4条、旅客站台2座、旅客天桥1座、货物线股道1条、货物站台1座。1951年，塘沽至唐山间复线铁路修通。为配合宁河县的经济发展，铁路部门在芦台站修建了铁路货场等设施。
1976年7月28日，唐山大地震严重波及芦台镇。芦台站站舍遭到严重毁坏，路基开裂、下沉，线路扭曲呈蛇形，铁路职工和家属伤亡惨重。从废墟里挣扎出来的铁路职工们第一时间奔赴各自的岗位，和前来增援的铁路职工、铁道兵一起奋力抢修铁路。地震后的第10天，芦台站开通，接发了大批抗震救灾列车，接卸了大批抗震救灾物资，为唐山大地震救援争取到了宝贵的时间。
至2000年，芦台站成为客货兼办的综合性三等站，办理到发全国各站的旅客、行包和货运业务。
