魏徵很小的时候父亲就去世了，家里很穷，但他却喜欢读书，掌握了广博的知识，后来又出家当过道士。隋朝末年农民起义风起云涌，他先后参加李密瓦岗军和窦建德起义军，李建成被杀后，他又因直言敢谏，受到唐太宗的重用。
唐太宗常把魏徵召进宫内，叫他提些意见。李世民有不对的地方，魏徵能够当面批评，甚至会弄得唐太宗一时下不了台。
有一次，唐太宗根据右仆射（掌管奏章文书的官员）封德彝的建议，决定十八岁以上身体强壮还没有服役过的男子都要去当兵。但魏徵不同意。因为按照当时的规定，皇帝的敕令，要由谏议大夫签名才能生效。
唐太宗问他：“你不同意这样做，有什么理由？”
魏徵回答：“臣作为谏议大夫，有义务向陛下指出，这样做违背了治国安民的方针。我朝开国后即立下‘男子二十岁当兵，六十岁可免’的规定，怎么能随便改变呢？”
唐太宗非常生气，大声指责道：“你太固执己见！”
魏徵毫不退让，语重心长地说道：“陛下！把河水放光捕鱼，确实能捕到许多鱼，但明年就没有鱼了；把森林烧了打猎，确实会打到许多猎物，但明年就没有野兽了。如果把十八岁以上身体强壮的男子都去当兵，今后国家的税赋徭役去向谁要呢？”
唐太宗这才幡然醒悟，收回了命令。
有时候，李世民还会和魏徵一起讨论一些问题。
比如，唐太宗曾问魏徵：“历史上有过这么多帝王，为什么有的明智，有的昏庸？”
魏徵回答道：“能够多听听各方面意见的帝王，通常比较明智；一意孤行、只听单方面的意见的帝王，难免就会昏庸。”“兼听则明，偏听则暗”的成语就是这样来的。
唐太宗赞许地说：“你讲得真好啊！”
有个大臣叫郑仁基，女儿长得美丽又有才华，皇后要把她收为李世民的嫔妃。当册封的诏书写好后，有人说了一句：“她不是已经与人订婚了吗？”
魏徵知道后，就向李世民进谏道：“陛下住着亭台楼阁，就应该希望百姓有安身的房子；陛下吃着山珍海味，就应该希望百姓有充足的食物；陛下看着众多嫔妃，就应该希望百姓有称心的婚姻。现在陛下把已经与人订婚了的女子夺过来，这怎么符合人家父母的心意呢？”
唐太宗听了这番话，马上取消了册封。
当魏徵患病去世后，唐太宗罢朝五天，亲自登上御苑西楼，遥望魏徵逝世之处寄托哀思。他沉痛地说：“用铜作镜子，可以端正衣帽穿戴；用历史作镜子，可以知道国家兴亡的原因；用人作镜子，可以明白自己的行为是否正确。现在魏徵去世，使我失去了一面镜子。”
魏徵能在初唐的政治舞台上发挥一点作用，确实是与唐太宗闻过则喜、从谏如流的气度分不开的。
唐太宗时能够大胆进谏的大臣，还有一位马周。马周原来只是守卫玄武门的中郎将常何的客人。公元６３１年（贞观五年），李世民下令百官上书谈论朝政得失。常何是个武将，不懂政治，感到谈不出什么，为此很犯愁。马周知道了，马上动笔为他写了二十多条关于政治得失的意见，让他去交差。李世民读了以后，觉得条条都切中要害。他很奇怪，常何这一介武夫怎么变得这样有政治头脑了，就找他来面谈。常何一向老实，他坦白地告诉李世民上书的内容都是马周写的。李世民马上召见马周，一番谈话，对他十分赏识，不久便任命他为监察御史。
马周没有辜负李世民对他的期望，经常进谏，向李世民提出了一些建设性的建议。他要李世民吸取隋朝灭亡的教训，要了解民间的疾苦，爱护百姓；他要李世民不要太宠爱子女，没有必要每年加赐金银珍宝，因为奢侈只会害了子女；他要李世民以人为本，真正让百姓满意，就得选拔德才具备的好官。对马周提出的这些建议，李世民都认真听取，并加以推行。
魏徵、马周等人还提醒李世民，隋末因为滥刑暴政而迅速灭亡。李世民因此非常重视立法安民，要求有关部门融合前朝立法、司法经验，制定了《贞观律》，使封建礼教法律观成熟完善起来，为稍后制定《唐律》打下了基础。