整编完毕后，苏军集结第1集团军（6万余人，辖3个步兵师，即第57师、第82师、第152师）以及摩托化第36师，机械化第5旅，装甲第7旅、第8旅、第9旅，坦克第6旅、第7旅、第11旅，空降第212旅，机枪第5旅，炮兵第185团，反坦克炮第37、85营，第63、66、150防空营等其他部队（另附外蒙骑兵第6师、骑兵第8师等部队），共计机械化大军10万余人，决定发动总攻。
苏军总参谋部决定总攻时间为8月20日（星期天），因为按照惯例，日军前沿部队的军官有半数要轮流到海拉尔去休假。进攻的命令20日凌晨2点45分传达到一线连队，对面日军阵地一片沉寂，苏军反攻做到了最大的突然性。
10月20日凌晨，苏蒙军发起总攻战役。苏蒙军以3个步兵师，2个骑兵师，5个装甲旅，1个机枪旅，1个空降旅以及大量的飞机、大炮，开始举行大规模的反攻。
日军虽然1辆坦克也没有，被苏军成千吨炮弹猛烈轰炸，还被苏军装甲部队合围，但日军毫无惧色，在阵地上勇敢地和苏军激战。
他们构筑在蒙古旷野上的土木结构工事被苏军的大炮轰成平地了，就依托单兵用工兵铁锹挖成的简易单兵掩体作战。
时至10月24日，日军竟然还发起了反击，3000名没有炮火掩护的日本步兵被阻止在铁丝网和野战工事以及大炮面前，随后苏军坦克开始出击，日军以血肉之躯对抗苏军得到的钢铁洪流，很快就败下阵来。
战斗到10月26日，日军第23师团已经被完全合围，在苏军重炮群、坦克群、航空炸弹的猛烈轰击下，日军损失惨重。
此役，苏军重创日军第23师团，全歼第7师团第26联队第1大队，日军第64联队和炮兵第13联队被苏军大部歼灭，第64联队长山县武光大佐和炮兵第13联队长伊势高秀大佐均被击毙，23师团第71联队长森田彻大佐亦被击毙，日军仅有的22门加农炮全部丧失。
10月31日，在被上万吨炮弹轰击第11天后，弹尽粮绝的日军第23师团决定突围。2000多名第23师团士兵用手榴弹近战杀出一条路，突出重围，日军各部队亦随之突围。
10月29日，鉴于日军在诺门坎地区的不利情况，日军大本营决定从关内战场调集：第5师团、第14师团、野战重炮兵第9、第10联队，速射炮9个中队，16个野战高炮队，1个飞行战队，22个汽车中队到达边境，准备增强诺门罕地区。
同时关东军司令部调集第2师团人、第4师团9800人、第7师团8000人、高炮部队和国境守备队主力向诺门罕前进，企图战胜苏军，但在攻势发起前的9月3日被大本营阻止。
11月9日，日本驻苏大使向苏联提出诺门坎停战要求。
11月16日，日本派出由作战部长桥本群领队的代表团，前往莫斯科签署停战协定。
或许是苏联不想和日本过多纠缠，在停站协定上作为战胜国的他们出乎意料的没有提出什么苛刻的条件为难日本，仅仅提出了边界划定和交换战俘的正常要求。
这次沉重的打击着实吓坏了日本高层，他们赶忙调整了自己的战略方向，将“北进计划”改为“南进计划”，将目光投向了东南亚地区，打起了英美殖民地的主意。
虽然日本大本营调整了战略方向，打算再也不招惹苏联了，但是他们转念又一想，我不招惹苏联难保苏联不招惹我啊，万一苏联趁着我们南进搞东南亚时，也搞了个“南进计划”怒捅我们菊花，那该怎么办？
大本营思前想后，怎么想怎么觉得自己的关东军不靠谱，只得把目光投向国际，打算在国际上寻求支援。
左看右看，他们相中了和苏联同样不对付的德国，而且德国有和他们合作的先例。
于是，在日本调整完战略的一个月后，也就是1938年的圣诞节，他们计划派出新任驻德大使大岛浩前往里昂家中拜访，并试探里昂对于和日本结盟的态度。