杨素在大业二年（606）七月二十三日死去了，享年六十二岁。怎么死的？史书有不同的记载。

第一种记载说，杨素是被隋炀帝毒死的。《大业杂记》中记载：“初，太子之遘疾也，时与杨素同在侍宴，帝既深忌于素，并起二卮同至，传酒者不悟是药酒，错进太子，既饮，三日而毒发，下血二斗余。宫人闻素平常，始知毒酒误饮太子，祕不敢言。太子知之，叹曰：‘岂意代杨素死乎？命也！’数日而薨。后素亦竟以毒毙。”大意是说，有一天，杨素和隋炀帝的太子杨昭一起侍宴，隋炀帝就想趁机毒死杨素。于是他让人调制了一杯毒酒，命宫女传给杨素。可是，宫女并不知道这是毒酒，误传给了太子。结果，三天之后，太子中毒发病了，吐了两斗血，杨素倒是什么事都没有。这时候，宫女才知道，自己把酒传错了。太子听说这件事后，长叹一声说：没想到我倒替杨素死了，真是命啊！隋炀帝一看，自己没毒死杨素，倒先把太子毒死了，恼羞成怒，只好再接再厉，二次投毒，终究还是把杨素毒死了。而且，按照相关史料，杨素之死和太子之死，中间只差一天的时间。

第二种记载则是说，杨素是病死的。根据《隋书·杨素传》的记载，大业二年（606）夏天，杨素生病了，而且，病势比较危重。杨素是当时隋朝头号大臣，对他的病况，隋炀帝表现得相当关心。为了让他早日康复，隋炀帝天天派御医来探望杨素，而且把御用药品也拿出来，赐给杨素吃。总之，对杨素关怀备至。但是，每次御医回宫，隋炀帝必定都要问他一句：杨素到底什么时候能死啊？

隋炀帝那边是天天探视，唯恐杨素不死，杨素对皇帝的用心也是心知肚明，他知道，皇帝这么天天来打探，自己若是再拖延下去，恐怕就要不得好死，而且死无葬身之地了。怎么办呢？杨素把自己的心腹，也是当年一起为隋炀帝效力的弟弟杨约叫来了。对他说：“我岂须更活邪！”皇帝这么巴望我死，我还活着干什么？从此干脆就不再吃药，而且故意折腾自己，导致病情加重。到七月二十三日，杨素终于一命呜呼。

这两种说法，一个说投毒，一个说病死，到底哪个更贴近事实？个人觉得，应该是第二种更为合理。

第一，《大业杂记》是一本笔记小说，而《隋书》属于正史，一般来说，正史的史料可信度超过笔记小说。

第二，《大业杂记》的记载多有不合情理之处，而《隋书·杨素传》倒是完全符合逻辑。试想，皇帝如果想要毒死首席大臣，那一定要经过周密策划，精心准备，谁放药，谁送酒，事成如何处置，事败如何补救，都应该安排得清清楚楚。怎么可能出现皇帝冒险投毒，送酒的宫女浑然不觉，居然误送到太子手里这样的荒唐事？这是不合情理的。

相反，《隋书·杨素传》的说法倒是入情入理。杨素受到皇帝猜忌，自然心理负担沉重，郁郁成疾。他既然生病，隋炀帝当然是满怀期待，天天盼他死。杨素一看皇帝表现得这么迫切，也觉得心灰意懒，干脆不吃药，加速了自己的死亡。这样的心理，这样的做法，都非常符合逻辑，也非常符合人情，可信度相当高。

第三，《大业杂记》之所以这样记，其实是因为隋炀帝的太子恰好死在杨素前一天，按照一般人的想法，哪有这么无巧不成书的事，再加上隋炀帝猜忌杨素这一客观事实在先，于是就炮制出这么一个故事来。

这样综合来看，杨素确实应该是病死的，但是，在病死的前前后后，都有隋炀帝制造的巨大精神压力。这样看来，说杨素是隋炀帝逼死的，也未尝不可。

不管怎么说，到大业二年（606）夏天，杨素终于死去，隋炀帝除去一个心腹大患，总算可以睡一个好觉了。要怎么安葬这个还算懂事的老臣呢？隋炀帝下令：务必厚葬。隋炀帝追赠杨素为光禄大夫、太尉公、十郡太守，这是政治待遇。另外，给他辒车、班剑、鼓吹，这是提高葬礼规格。还有，赐给杨素家人粟麦五千石、布帛五千段，这是经济待遇。这还不算，隋炀帝还下令，给杨素树碑立传，表彰他的卓越功勋。这样的待遇，也算是生荣死哀了。

不过，就在这些表面文章都做完之后，隋炀帝顺口说了一句话，一下子把他苦心经营的君明臣贤、君臣一体的面纱撕了个粉碎。隋炀帝说：“使素不死，夷其九族。”幸好杨素懂事，自己死了，如果再不死，我一定杀他九族。这样杀气腾腾的狠话，真是让人听了毛骨悚然。

这还没完。就在杨素死后不久，有术士对隋炀帝说，杨素的坟上“白气属天”，这表明要有兵祸，是灭门之相。这不是暗示杨素家会有人造反吗？隋炀帝心里又不踏实了。怎么处理呢？

没过多久，杨素的弟弟杨约路过杨素坟墓，想起哥哥生病之后不敢吃药、只求快死的辛酸往事，忍不住趴在墓道上号啕大哭。

有人把这件事上报给隋炀帝，隋炀帝马上又疑虑暗生。杨约也是宰相，手里权力不小，如果他觉得哥哥冤枉，要替杨素报仇，也是麻烦。为了保险起见，隋炀帝干脆把杨约贬为淅阳太守，让他离开朝廷了。

想当初，杨约也没少为隋炀帝做贡献。最早的时候，杨广就是通过他来游说杨素加盟，一起陷害前太子杨勇。后来，隋文帝去世之际，又是杨约帮隋炀帝勒死了废太子杨勇，保证了隋炀帝顺利接班。既是功臣，又是文臣，基本不构成威胁，本来应该没什么问题。但是，就因为他是杨素的弟弟，隋炀帝就要这样严加防范，可见内心对杨素的猜忌有多深。