在榆辽战役中，一二九师参战部队分成左右两集团，由周希汉指挥的左集团，即三八六旅的七七二团、十六团，主攻榆社。右集团即决死一纵的两个团在完成既定任务后，曾请战要求攻打榆社，但陈赓考虑到榆社据点是最难啃的一块骨头，认为决死队还没到能承担这样险重任务的时候，因此没有同意。

作为敌人突入太行根据地的最前沿据点，以及转运粮秣弹药的重要枢纽，榆社城内筑有坚固的工事和碉堡群，守敌则由藤本中队两百二十余人和伪军六十余人组成，配有山炮、迫击炮各两门，轻重机枪各两挺，掷弹筒六具，弹药充足，粮秣足够半年食用。

华北面积这么大，日军驻守兵力不敷分配，只能像撒豆子一样地，这里撒一点，那里撒一点，各据点小的如沿毕据点，二十多人，稍大一些的如王景据点，也不过六七十人，像榆社城这样驻两百多人的大据点着实不多。更何况，藤本中队在第四混成旅团中还以彪悍善战莫著称，可以算是日军中的一支精兵，如此高规格的兵力配置，本身就已足以说明日军对榆社的重视程度。

榆社的敌人，人数多，兵员精，装备好，火力猛，工事体系完备，无论从哪个方面看，都是一块难啃的硬骨头。面对这副重担，周希汉所做的第一件事，便是与七七二团团长郭国言、十六团团长谢家庆一起，到榆社城附近侦察。在表面应付敌人，实际拥护抗政府的“维持会”的掩护下，三人都化装成了农民：周希汉背上背一只粪筐，伪装拾粪；郭国言背上背一只篮筐，伪装割草；谢家庆装作在走亲戚。

他们白天分头围着榆社城侦察，把榆社城外围的情况搞得清清楚楚。到了晚上，周希汉意犹未尽，又拽上两个团长，摸到城门附近进行了抵近侦察。

综合现场侦察和所收集的情报，榆社城属于易守难攻的地形，东西方向相对平缓，南北方向比较陡峭。周希汉等人看到，南门有外壕，城墙外有一高地，敌人在上面设有哨所，而北门没有城关，也就是靠近城门的建筑群，只有一些小沟和坟堆，也不便于部队隐蔽和接近攻城。

南、北两门否定了，东、西两门呢？东门是通往辽县的公路，敌人筑有两个高大的母碉堡，是其重点防御地带。剩下来的西门城关较大，而且房屋较高，离城墙近，情况恰与北门相反，缺点也是敌人防守严密，西关之上有四个碉堡，其中同样含有两个居高临下的母堡。

经过反复权衡，周希汉还是决定把主攻方向定在西门和西关。1940年9月23日晚，七七二团和十六团齐头并进，悄悄地向榆社城靠拢。