开皇十年（590年），内史令杨素率军征讨江南叛乱，征辟封德彝担任行军记室。船舶行驶到海曲时，杨素召唤封德彝，但其却坠入水中，被人救其后，重新换衣前去面见杨素，对坠水之事一言不发。后来杨素获悉此事向其询问，他认为这是私事，这才不说。杨素对其赞叹不已，并将其堂妹嫁给封德彝。 开皇十三年（593年），杨素奉旨营建仁寿宫（今陕西麟游），表奏封德彝出任土木监。杨素大兴土木，隋文帝杨坚认为宫殿豪华奢侈，并斥责杨素。杨素惶恐，担心受到隋文帝谴责，封德彝劝其不用担忧，独孤皇后对其必有降恩的诏书，后果然如此。 开皇十五年（595年），因杨素赏识封德彝，多次向隋文帝举荐他，后被隋文帝杨坚擢升为内史舍人。
