黄埔军校建立半年内,国民党中央曾先后任命两任政治部主任,但均不久去职,这期间的黄埔军校,名有政治部,实无主任,更无机关和工作。1924年11月,周恩来出任黄埔军校政治部副主任,不久升任主任。他上任后立即建立机关,开展工作。从此到1926年,黄埔军校政治部基本由共产党人负责。先后担任主任和副主任的还有熊雄、鲁易。期间,聂荣臻、杨其纲、洪剑雄等,先后在政治部机关工作。
黄埔军校的政治教学工作和特别党部也基本由共产党人担负。恽代英、高语罕等先后担任政治主任教官,萧楚女等任政治顾问和政治教官。金佛庄、周逸群、蒋先云等10余人先后当选为校特别党部第一至第四届执行委员或监察委员,到1926年6月,在校供职的共产党员已达160多人。
1924年10月,国民党组建党军教导第1团时,共产党员胡公冕出任营党代表,许继慎、黄鳌、张际春、曹渊等9人分任连党代表。翌年8月,党军扩编为国民革命军第1军,周恩来任军政治部主任兼第1师党代表,后升任该军副党代表;鲁易任第3师党代表;蒋先云(后北伐时牺牲)、严风仪、王逸常等7人分任其中7个团的党代表。此外,还有许多共产党员在军、师政治部工作,或在团任政治指导员,在营连任党代表。到1926年3月,在第1军工作且身份公开的共产党员有250多人。10月,中共中央统计全党人数时,在国民革命军中工作的党员已占全党党员数的8.5%,达1500多人。这些党员的绝大部分在各级做政治工作。
从1926年春到1927年初夏,在国民革命军担任军级政治工作职务的共产党员还有:第2军副党代表的李富春;任第3军副党代表的朱克靖;任第4军副党代表的罗汉;任第6军副党代表的林祖涵(林伯渠);任第7军政治部主任的黄日葵;任第8军政治部主任的彭泽湘等。当时,各军并不完全实行政治工作制度,故凡实行这个制度的部队,其政工干部的绝大部分都是共产党员;当时的各军党代表,皆由国民党中央政治委员会主席兼任,副党代表是实际上的党代表。周恩来曾经说过,国民革命军的政治工作,几乎全由共产党人担负。