1947年1月下旬，山东野战军与华中野战军合并组成华东野战军，山东军区与华中军区合并，组成华东军区。
华东野战军，陈毅任司令员兼政治委员，粟裕任副司令员，谭震林任副政治委员。下辖十一个步兵纵队、一个特种兵纵队。
华东军区和华东野战军决定，原直属华中野战军的骑兵团和炮兵团、滨海三团、山东野战军工兵营、山东军区特务第二团二营、华东军政大学炮兵大队、华中皮革厂及军工部第八厂等单位，以及在宿北、鲁南战役中缴获的火炮等重装备，均拨归特纵建制。
陈锐霆任特纵司令员，张藩任政治委员，刘述周任政治部主任，钟国楚任参谋长，董尧卿任副参谋长，喻新华任政治部副主任。
陈锐霆去特纵上任前，陈毅司令员和粟裕副司令员分别找他谈了话。陈老总见面就笑着对陈锐霆说：“还记得我七年前说过的话吗？你现在有用武之地了。”陈老总还告诉他，两年多前军委曾有意调他去延安炮校工作，就是是他推荐的。
陈老总说，原直属华中野战军的骑兵团、炮兵团执行原任务不变。目前，特纵主要是赶紧把美式榴炮团搞起来，好早一点到前方参战，以适应打大歼灭战的要求。工兵建设也很重要，但攻坚爆破，许多步兵部队都会搞了，工兵团的主要任务是修桥修路，保证大部队通过。同时，要把特科学校尽快组建起来，加紧培养干部，为特纵的更大发展做好人才准备。
陈老总接着指出，特纵是“以战养战”的产物，一定要教育干部爱护这些用血的代价换来的装备。同时，还要用“以战教战”的办法，抓紧部队的训练，要以突击的精神，把装备修理好，把部队编组好，稍加训练就拉到前方实战中锻炼。这样，一方面可以适应前方作战部队对炮兵的迫切需要，一方面部队可以在实践中学到切实有用的本领。
最后陈老总说，粟裕副司令员分工管特纵，今后有事直接向粟裕同志请示报告。
陈老总谈完话后，粟裕就将陈锐霆带到他的住处，用了将近半天时间，就如何加强特纵建设问题作了具体指示。
粟裕先问了鲁南战役缴获的实际情况。有多少火炮？其中美式榴弹炮多少？炮弹多少？车辆、坦克各多少？陈锐霆一一作了回答。
粟裕用商量的口吻对陈锐霆说：首先，谈谈关于特纵的建设方针问题吧！在特纵的骑兵、炮兵、坦克兵、工兵四个兵种中，要重点突出炮兵建设，这是战争形势发展的需要，不是有什么偏爱。仗越打规模越大，而要打大的运动战，歼灭敌人的大兵团，没有炮兵是不行的。对据守村镇、依托加固的工事的敌人，没有炮兵摧毁敌火力点和防御工事，压制敌人的炮火，仗就不好打，更不要说打大中城市了。突出炮兵建设，这是我军今后作战的迫切需要，是事关全局的问题，不能有其他选择。
装甲坦克兵，机动性强，突击威力大，但我军的技术保障和油料保障等条件都不具备，只能编一个分队，主要是培养干部，壮壮我军的军威。所以不能作为特纵建设的重点。
工兵的土工、坑道、爆破等作业，以及架桥、整修道路、保障交通等，都是很重要的。但是，主要由步兵部队兼学爆破和土工、坑道作业。特纵成立后，原工兵营扩建为工兵团，主要担负架桥修路、保障交通，以便于部队机动和后方运输。也不能作为特纵的重点来建设。
骑兵在敌后机动打击敌人，也不能作为重点来建设，且马匹还没有固定的来源。
其次，炮兵建设本身也应有重点和分工。轻型的如山炮，由各步兵纵队建设，加强各纵的炮兵团。特纵主要搞重型的火炮，编成野炮团和榴弹炮团。骡马牵引的野炮和汽车牵引的美式榴弹炮，应当以威力大、机动性强的榴弹炮为重点。要采取突击手段，把美式榴弹炮兵团尽快建设起来，使之尽快成为野战军手上的一个威力大、机动性强的火力拳头。
美式榴炮团，按缴获的数量可编两个团。为了集中力量，提高效率，目前编一个大团为宜。团本身也要搞重点建设，不能将干部、技术人员和火炮、车辆、仪器等平均分配到各营，要重点配备一个营，或每营重点搞一个连。只有这样抓住重点，才能快一点拿到前方参战。
粟裕继续说，我考虑过，对美式榴炮部队的要求有三点：第一，要尽快编组，拿到前方作战，以适应战争的急需。第二，要有过硬的战斗作风。摩托化炮兵威力大，目标也大，是敌人空袭和炮击的对象，这就要求部队勇敢顽强，在不良天气和复杂路况下能机动作战，能忍受艰苦。第三，要重视掌握技术。没有熟悉掌握技术的干部和战士，美式榴炮部发挥不了应有的威力。要争取一部分被俘的国民党炮兵官兵做教员，发挥其专长优势。
粟裕特别强调特纵必须养成艰苦奋斗、英勇顽强的作风。他说，野战军领导决定从野战军各个部队，每连抽调一个政治思想好、有点文化又有战斗经验的班长来当炮手，使炮兵部队的作风一开始就打下坚实基础。估计可调来五六百人。以这个群体为主体，再补充部分地方军升级来的战士，争取团结教育改造一部分炮兵俘虏，再把各纵队已作运输车的炮兵牵引车调拨给你们，这样，你们很快就可以建成一支能打仗的炮兵部队。
野战军还拟规定一条，今后凡缴获的美式榴炮和牵引车，以及懂炮兵业务的俘虏，都应立即送交特纵，不得留作己用。
粟裕强调，从长远看，还必须抓紧技术干部的培养，以准备打更大的歼灭战，缴获更多的火炮，迎接特种兵的更大发展。华野指挥部决定成立一所特科学校，归特纵管。当前也是以炮兵为主，准备招收一部分在校的初中学生。把学校的领导人选好，以华东军政大学炮兵大队作基础，很快就可以办起来。
粟裕总结说，概括起来，你们有两个重点，当前的和长远的，但有轻重缓急。当前的重点是美式榴炮团的建设，集中力量先搞起来，拿到前方去打仗，训练不足不要紧，按陈毅司令员讲的“以战教战”。另一个重点是特科学校的建设，培养技术干部是长远的基本建设。很重要，但可以缓一步。
粟裕最后强调，建设特纵，方针、措施、条件基本上已具备，就看你们特纵的领导能不能抓紧实现了。张藩、钟国楚、刘述周等都是老同志，有领导部队建设和作战的经验，你可将陈司令员和我谈的这些传达给他们。你们要搞好团结，把来自各方面人员的积极性调动起来，相信你们一定可以完成任务。
他结合当时的形势，叮嘱说：敌对鲁南的进攻已经开始了，野战军前指今后将处在流动中，你们可根据我们谈话的精神，大胆工作，大胆处理问题，需要华东军区办的事，可直接找他们，他们会支持你们的。
特纵筹建的地点在沂南，这里将来也不稳定，要先到胶东军区的西部选择后方。这样，你们就要准备分成两摊，一部分到前方参战，大部分在后方继续做组建工作。领导干部也要分散，各自独立负责吧！
粟裕的这次谈话，为华东特种兵纵队的建设、发展指明了具体方向。五十多年过去，陈锐霆还回想起来，仍感到历历在目。
这次重要谈话和以后的实践，使陈锐霆更加体会到，粟裕是一位战争经验丰富、学识渊博的卓越的领导者。他目光如电，一下切中问题要害，抓关键，又心细如发，理清各项事务的轻重缓急，在适应的当前的同时，目光超远，重人才重技术更重工作作风。
对特纵的筹建，华东军区、华东野战军的领导和机关，给予了全方位的大力支持，可谓无微不至！野战军首长命令，从各纵每个连抽调一名优秀班长到榴炮团当炮手，这些班长大多是抗战时入伍的老战士，百分之九十五以上足共产党员。现在，让他们从班长改为战士，除个别同志外，都能够愉快地服从分配。他们把不怕苦不怕死的优良传统作风，带到新建的榴炮团里，对该团的作风养成起了很重要的作用。在经过几次作战之后，他们中间的绝大部分都成为了华东炮兵部队的骨干。
野战军领导还通令各单位，凡在战争中缴获的大炮、十轮卡牵引车，一律送交特纵使用。各部队都照办了。又从军区运输部队抽调一批老驾驶员，开着汽车到特种兵纵队来工作。在华东全军范围内，凡是懂得炮兵、工兵、装甲兵、机械、摩托技术的干部，都调到特纵。华东全军各个兄弟部队都为特种兵纵队“开绿灯”，以能为特纵建设出力为荣。
由于军区和野战军首长的高度重视，先后从各步兵纵队抽调排以上干部400余人、班长骨干200余人来特纵工作，山东大学又派老师来教部队的文化课，特纵的组建工作得以顺利展开。
1947年3月18日晚，经过一个多月的紧张筹备，华东野战军特种兵纵队在沂南县苍子坡村正式成立，同时宣布榴弹炮团和特科学校组建。成立大会选择在晚上，以防敌人空袭。这天晚上风很大，吊起的马灯把会场四周照得通亮，使原本寂静的村子显得十分热闹。华东军区和华东野战军机关均派员参加了大会。
特纵成立之初，各级组织机构极不健全，兵员缺额甚多。司、政、供、卫架子搭起，但缺少工作人员。重点建设的榴炮团，只有三个连队和一个汽车大队，很多火炮还放在仓库里等待维修。组建工作一时间千头万绪。
至5月底，榴弹炮团已编成了团部和三个营六个连，边组建边训练，随时准备参战。与此同时，纵队还着重抓了特科学校的建设。
在这期间，国民党军于3月下旬集中24个整编师60个旅，约45万人，向鲁中山区发起疯狂进攻。特纵处于被敌人封锁的环境下，器材、物资的补充极为困难。部分火炮、汽车已遭损坏，急需零件维修。美式榴弹炮弹仅1269发，特别是缺乏汽油。后勤装备部门发动群众想办法，在器材工具极端缺乏、流动极为频繁、技术水平极低的情况下，皮革厂完成了27门野炮的装具制作任务，修炮厂维修好了五门损坏的榴弹炮以及一部分附件，使部队装备得以逐步补充。
特纵一组建，即布置两星期突击学习技术，提倡“苦学苦练”和“互助立功”，争取在较短的时间内掌握手中武器。美式榴炮团的许多同志克服文化水平低的困难，铆足了劲苦学，有的甚至在梦中还念着分划改装的口令。新解放战士和老炮兵耐心帮助不懂业务的同志学技术，老同志则帮助新解放战士学政治。
部队人员来自各方，生活习惯各不一样。南方人早晨喝稀的，山东人却要吃干的；星期天改善伙食，山东人要包饺子，南方人却要煮米饭。还有一些同志闻不惯汽油味，坐汽车要晕车，大家坐车行军，他却要在车下徒步赶路。但是，大家在一个目标下，互帮互学，团结协作，排除各种困难，初步掌握了最基本的技术。榴炮团组建仅20余天，就能够参加战斗。
4月初，特纵从沂南转移到莒北大三户，一部准备参战，一部转移胶东，陈锐霆带部队在前方作战，后方主要由政委张藩负责。
1947年3月18日，特科学校成立。孙叔平任教育长，主持学校的日常工作。
特校以华东军政大学第六大队（即炮兵大队）大队部及其第一、第三队为基础，加上从东江纵队调来的一批连排级干部和200多名解放人员（即被俘的国民党军下级军官）编成，起初为团级编制，机关设训练处、政治处、校务处，由陈秉德、曾源、余西迈分别负责。有三个学员队，其中一、三队为炮兵队，四队为坦克队。开学个把月后，又先后增加了第七、第八、第九、第十等四个解放队和第五队，也就是汽车队。
初建时，特校驻在沂水县南边的东西满堂坡村一带，没多久就搬到了陈家庄。特校的主要任务有两项：一是用短期速成的方法，为前方部队培养炮兵、坦克兵、工程兵的技术骨干；二是接收和改造被俘的国民党军下级军官及技术人员，让他们自觉地投身于人民的解放事业，用自己的一技之长为人民解放事业服务。
学校炮兵队、坦克队和汽车队的学员，都是从部队调来的骨干，学习热情很高，但文化基础很差，有的连自己的名字也写不好，加减乘除都不怎么会。教学条件也很差，火炮、器材、车辆、书籍，样样少得可怜。更困难的是缺火炮器材，还缺教员，全校只有五个略懂炮兵技术的干部和教员。仅有三门种类不同的火炮，四具残缺不全的观测器材。300多名学员，就靠这点儿火炮器材进行训练，平均每个学员一天只能练习几分钟。
没有足够的火炮练习，大家就用木头制成代用品练习操作。缺少教员，就实行“小先生”制，拜能者为师，互教互学。各队设立学习委员会，区队有中心组，班有互助组，具体组织辅导学习。特校开展了学习立功运动，充分调动学员的学习积极性和创造精神。炮兵队学员为了弄清炮弹原理，冒险拆卸引信，结合缴获的书籍和器材，解决了学习的难点。
教育、改造和争取国民党军被俘的技术人员，是特校的一项重要任务。特校提出了一个目标，就是要三个月内，完成对近400名解放人员的改造，百分之九十能自愿地为我服务。
解放队学员刚来时，思想混乱，生活散漫，赌博习气十分严重，普遍存在怀疑、惧怕、不满的情绪，百分之八十要求回家，思想极不稳定。通过深入细致的时事教育，以及人民解放军胜利形势的影响，解放队学员的思想有了很大的转变，除极少数因身体等原因离队回家，绝大多数都自觉自愿报名参加了人民解放军。有的结业留校当了教员，并在教学上取得了可喜成绩。
