1989年3月20日，黄维因突发心肌梗塞，在北京不幸逝世，终年85岁。 熟悉他的老朋友都知道，他有两件未竟之事，其间的点点滴滴，依旧是典型的黄维性格。 第一件未竟之事，是想着他昔日的底层兄弟，希望能够尽快落实好原国民党中下级军官的政策。 生前，在相关的小组讨论会上，黄维曾直率地说，现在有一个说法，叫作“革命不如不革命，小反革命不如大反革命”。 说完，他站起来，用沙哑的声音吼叫道：“不管你们怎么看，我觉得这个说法话丑理端！” 老朋友都讲，已经八十多的人，被改造了那么多年，让人感慨的是，他还是那么有棱有角，有情有义。 第二件未竟之事，就是在有生之年能去台湾看看老朋友，为两岸进一步交流做些事情。 当时，黄维有好几个身份，他既是全国政协委员，也是大陆黄埔同学会理事，台湾黄埔同学总会邀请他之后，觉得有个问题必须事先谈好，那就是黄维到台湾的身份。 商谈的地点在香港，黄维如期到来后，与他会面的是他的黄埔一期老同学，当时台湾黄埔同学总会的负责人丁先生。 丁先生首先告诉黄维，台湾方面已经收回了关于将国民党战犯定为叛徒，甚至要缉拿归案的命令，然后又告诉黄维，根据台湾新规定，黄维的身份是现役军人，他有一百多万元美金的工资在“国防部”尚存待领。 黄维听了，笑着说：“我在徐蚌会战中打了大败仗，理应军法从事，现在不但不惩罚我，反而要我去领工资，这岂不是天下奇闻？” 丁先生见黄维是这个态度，最后说：“既然你不承认现役军人身份，也请你不启用全国政协委员身份，因为我们是民间交流，我们的身份都是老百姓，你看这样好吗？” 换作其他人，这个时候就没必要较劲了。 但黄维一辈子眼里不揉沙子，见不得虚伪，所以他最后还是硬邦邦地回敬了一句：“这样最好，因为对于我来说，名副其实；对于你来说，自欺欺人吧！” 回来之后，老朋友听闻这事都说，黄维这个人，对他的过去，是可杀不可辱；对他的现在，一样如此。他是最顽固的，也是最硬气的。
