1938年1月26日，日军第十三师团向安徽凤阳、蚌埠进攻。日军以为拿下蚌埠已是易如反掌之事，不料进至明光以南，即为李宗仁部署的李品仙的第11集团军和于学忠的第51军，利用淮河、淝河、汇河等地形堵截，双方血战月余，不分胜负。第5战区以第59军军长张自忠率部驰援，进至固镇地区，协同第51军在淮河北岸地区顽强抗击日军。敌军在此停留，竟不能越雷池一步，这大出日军主将畑俊六所料，十分恼怒。于是，畑俊六遂自南京调集援兵及坦克、野战炮等重武器，倾巢来犯。敌人汹汹而来，李宗仁感到硬拼、硬堵要吃亏，待敌援军聚集明光一带时，李宗仁命坐镇蚌埠的李品仙将31军于1月18日自明光全线西撤山区，伺机出击，将津浦路南端正面让开；将于学忠的51军南调，布防淮河北岸，凭借险要地形，拒敌越河北进。敌援军以饿狼扑食之势猛扑明光，结果扑了个空，没有捕捉到李品仙的主力。
接着日军攻下定远、怀远等地，但一无所获。此时西撤的31军遵李宗仁指示，从敌军左侧向东出击，将津浦路之敌截成数段，围而歼之。淮海前线之敌，后路忽被斩断，不知凶吉，费九牛二虎之力将31军从津浦线向西压。李宗仁遂命部队采用敌进我退、敌退我进的战术，牢牢地盯住津浦线；此时参加淞沪会战的21集团军北调合肥，以其第48军固守炉桥地区，第7军协同第31军迂回攻击定远日军侧后，迫日军第十三师团主力由淮河北岸回援。第59、51军乘势反攻，至3月初恢复淮河以北全部阵地。第21集团军和第31军旋由淮河南岸向北岸集中，淮河两岸日军首尾难顾，与中国军队胶着于津浦沿线，从而使日军对淮河流域的进攻宣告彻底破产。
徐州以南地区之战，日军损失达三四千人，中国军队取得了辉煌的战绩，这次胜利，除了中国军队的浴血奋战之外，皖北人民对军队给予了极大的支持。中国共产党领导的抗日武装在淮河流域的阻击战中也起了配合作用。中国共产党领导的新四军也积极配合淮河沿岸李宗仁的部队，阻击日军北犯。
这次淮河血战，虽然没有把北犯日军全部歼灭，却使日军付出了巨大的代价，并将日军迟滞于淮河一线，粉碎了日军预定的“南北夹击”的战略，迫使日军改取“南守北攻”战略，从北面取道山东，进攻滕县、峄县，造成孤军深入的局面，从而为中国军队在台儿庄歼灭日军创造了良好的战机。