1954年9月28日，在北京召开第一届全国人民代表大会第一次会议，会议决定在国家体制中不设立中央军委，设立中华人民共和国国防委员会。

《中华人民共和国宪法》规定：中华人民共和国主席统帅全国武装力量，担任国防委员会主席。

国防委员会是咨询和统一战线性质的机构，不是全国武装力量的领导机关。

国防委员会副主席和委员的人选，由主席提名，全国人民代表大会决定。第一届国防委员会的组成是：

主席：毛泽东

副主席：朱德、彭德怀、林彪、刘伯承、贺龙、陈毅、邓小平、罗荣桓、徐向前、聂荣臻、叶剑英、程潜、张治中、傅作义、龙云，1958年免去龙云副主席职务。

委员：102人

委员：于学忠、王世泰、王宏坤、王秉璋、王新亭、王震、王树声、宋任穷、宋时轮、吕正操、李先念、李明扬、李明灏、林遵、周士第、周保中、周纯全、阿沛·阿旺晋美、洪学智、唐生智、唐亮、徐海东、孙蔚如、许世友、许光达、韦国清、乌兰夫、马鸿宾、高树勋、张宗逊、张国华、张云逸、张爱萍、张达志、陈士榘、陈再道、陈奇涵、陈明仁、陈绍宽、陈赓、陈锡联、陶峙岳、鹿钟麟、彭绍辉、曾泽生、粟裕、贺炳炎、冯白驹、黄永胜、黄克诚、黄琪翔、杨成武、杨勇、杨得志、董其武、叶飞、万毅、廖汉生、裴昌会、赵尔陆、刘文辉、刘亚楼、刘善本、刘斐、邓兆祥、邓华、邓锡侯、邓宝珊、滕代远、蔡廷锴、郑洞国、卢汉、萧华、萧劲光、阎红彦、赛福鼎、韩先楚、韩练成、罗瑞卿、谭政、苏振华。