始建于民国 5 年（1916 年）的棠溪火车站，前身为西联火车站，为粤汉铁路的车站。民国 26 年（1937 年），又成为粤汉铁路与广九铁路的联轨站，改称广州北火车站。

中华人民共和国成立后，多次扩建广州北站，成为广州铁路枢纽内主要的编组站。至上世纪 80 年代，由于车站解编能力无法满足不断增长的需求，铁道部决定兴建新的编组站。

新广州北编组站（今江村站）于 1989 年 2 月投入使用后，原广州北站恢复原名棠溪火车站，编组作业大部分转到广州北站，棠溪站则缩减规模。

此前，棠溪站为货场，不承担客运业务，但目前周边大宗货源已逐步迁离，而规划将逐步弱化其货运业务，最快于 2030 年转换为客运站。

根据早前市政府发布的《广州市综合交通发展第十三个五年规划》中便提到，新开工的棠溪站将定位为广州铁路枢纽主要客运站，共计投入 45 亿元，规划有国铁车场 8 台 15 线和广清城际场 2 台 2 线，改造时间为 2017 年至 2020 年期间。

根据规划，广州火车站将于 2018 年开始进行改造。届时，新棠溪站将会承担起广州站的重任，集中办理枢纽内普速客车始发终到作业。