隋朝光禄大夫、宿国公
，始兴江口人，生活于陈朝和隋朝期间。青年时即勇敢，有臂力，且步行如风，跑及奔马，能“日行五百里”。性开朗、喜酒、好交游、重信义。陈·太建年间，铁杖曾结伙为盗，被广州刺史捕获，罚为官府奴隶，为皇帝执掌御伞。铁杖野性未改，每当皇帝罢朝之后，便步行百余里至南徐州，趁夜走城过户明火执杖抢夺财物。第二天早晨，又仍为皇帝执伞不误，经十多次抢劫后，南徐州失物主人已认识，联名告到州里，刺史经查确认，便上告朝廷，要求惩处。皇帝和大臣们见铁杖每日不离左右，不相信有这回事。后来告状的人越来越多，尚书蔡征出了一个主意，在一天罢朝时，忽然以白银一百两为酬，募人到南徐州投递紧急公文，规定必须于第二天黎明时持回文上奏皇帝。许多人经过计算里程和时间，纵使跨骏马也不能完成任务，因而无人应招。铁杖不知是计，欣然愿往，他不用驿马按时回来。这时皇帝才相信抢劫南徐州者就是。由于皇帝爱惜他的勇敢和特殊本领，只对他作了一般的惩戒。
隋灭陈后，转入大将军杨素军中，居清流县，屡立战功。当时江东一谋反，杨素遣铁杖头戴草束，夜浮渡江刺探敌军情况，他全部弄清回报，杨素再派铁杖渡江与战，被敌擒住。敌帅李陵缚了铁杖，派三十名军卒押解他至高智慧处发落。行至亭地方。护送士兵大吃大喝，见铁杖饥饿，便松了绑让他吃饭。铁杖忽然夺取士兵战刀，杀死所有敌兵，并全部割掉他们的鼻子尽装袋内，然后返归军中，杨素十分惊喜。但是杨在论功时却忘记了。铁杖既不当面争功，也不背后发牢骚，而是默默地随着杨素马前马后步行，每晚都和杨素同住一个驿馆。杨素屡次见铁杖与自己同行同住，才想起铁杖日行五百里的本领和战功。班师回朝后，特奏明皇帝，加以封赏，授同三司职。但铁杖不识文字，不久遣返家乡。