张玄素的来头不小。
能被李世民任为东宫属臣的人，资历绝不简单。
东宫是社稷之本，辅佐太子的工作相当于农民插秧，收成是好是坏，全看开春插秧的工作细不细致，所以东宫属臣的人选非常重要，他们与太子朝夕相处，对太子的性格的潜移默化有着最直接的影响，所谓“近墨者黑”，如果李世民派个二流子去当东宫属臣，若干年后，大唐就多了一个二流子储君，而且是超级二流子，破坏性非常大。
张玄素原本不是李世民这边的人，隋朝末年，天下大乱，张玄素原本以隋臣自居，好不容易等到隋炀帝死了，张玄素没了忠心的对象，于是只好选择站队，然而他的运气实在太差了，站队站错了地方，不小心投到了窦建德的麾下，还没有风光两年，窦建德被李渊灭了，于是张玄素只好继续站队，终于归顺了大唐。
李家父子还是很赏识他的，因为张玄素确实是治世之才，事实上张玄素归顺大唐后也很争气，没让李世民失望，李世民刚登基，张玄素便疏陈国事，进谏了许多有用的治国之策，李世民表示很满意。
当然，张玄素的脾气火爆也是朝野尽知，贞观四年的时候，李世民打算修洛阳宫，当时张玄素干了一件和李素同样的事，那就是上疏谏止，奏疏中的语气甚至都跟李素的《阿房宫赋》大同小异。
“阿房成，秦人散，章华就，楚众离。及乾阳毕功，隋人解体。”
话说得很文雅，但意思却很粗暴，大意就是，你要修宫殿你尽管修，修完就亡国，前面那么多反面教材摆在那里，你瞎啊。
李世民的反应也和当初看到《阿房宫赋》一样，不负众望的勃然大怒，当场拍案而起，指着张玄素说，你不怕我把你剁了吗？张玄素泪流满面说，来啊，互相伤害啊……
于是李世民决定伤害他，正要下旨把他剁了时，大唐著名搅屎棍魏徵跳出来了，谏道：“陛下，不能剁！”
于是李世民决定不剁他了，很随和的皇帝。当然，可能主要是害怕魏徵那种碰