唐朝建立后，长孙无忌经常跟随李世民征战，接连提升到吏部郎中，并被封为了上党县公，成为了李世民的心腹。彼时太子李建成和秦王李世民之间因为争夺皇位继承，矛盾突出。李世民的才能和军功，以及觊觎皇位的野心引起太子李建成的忌妒和不安。齐王李元吉劝说李建成趁早除去李世民，于是李建成与李元吉一起，屡次加害李世民。秦王府因此形势严峻，幕僚属官人人恐惧，不知所措。行台考功郎中房玄龄便将目前的形势讲给长孙无忌听，并建议长孙无忌与他一起劝说秦王采取行动。长孙无忌考虑后同意了房玄龄的建议。于是，房玄龄、长孙无忌与秦王府属官杜如晦三人一同前去劝说李世民诛杀太子和齐王。武德九年（626年），李建成向李渊进献谗言，将房玄龄、杜如晦逐出秦王府，李世民当时的心腹幕僚只剩长孙无忌。长孙无忌与高士廉、尉迟敬德等人劝说李世民，让他诛杀太子与齐王。六月四日，李世民亲率长孙无忌等十人，在玄武门成功地伏杀了李建成、李元吉。玄武门之变后，唐高祖册立李世民为皇太子，任命长孙无忌为太子左庶子，辅佐李世民。到李世民登基即位时，长孙无忌升任左武侯大将军。
