李杰，字务光，唐代相州滏阳人（现在河北磁县人），是后魏并州刺史李宝的直系后代。李杰年轻时以孝顺友爱著称。考中明经科 （始于汉武帝时期的选举官员的科目, 重经术 。至宋神宗时期废除） ，出仕任齐州参军事，多次迁任为天官员外郎。 先后担任采访使（唐代监察、考绩类官员，掌管检查刑狱和监察州县官吏）、河东巡察黜陟使（对地方官吏进行考察并将其政绩上报更高一级部门，提出推荐或贬黜的建议，以便朝廷对其进行职务升迁或贬黜的长官）、河南府尹、御使大夫、衢州刺史、扬州大都督府长史等职。这里记录几件小事，反映李杰明察秋毫、为民请命的为官之道。
李杰在担任采访使时，一次巡视至山南道（道名，治所襄阳，今湖北襄阳。大约管辖今重庆和湖北襄阳之间的长江以北地区），发现当地老百姓外出流浪者甚多。为了弄清原因，李杰就在当地进行了微服私访。通过调查了解发现，老百姓之所以大量流出，主要是常遭当地豪强欺凌。李杰派人暗暗掌握了那些欺凌百姓的豪强姓名，然后依法对他们进行了惩治。豪强欺凌现象消除后，外流的百姓中十有七八选择了回归，老百姓由此实现安居乐业。
神龙年间，李杰任河东巡察黜陟使，考核政绩为各道最优。先天年间，进位陕州刺史、水路发运使。设置水路发运使是从李杰开始的。
李杰精于听讼断案。即使行途中吃饭喝水，也不停止处理政事。因此，府衙里没有滞留的事情，百姓官吏都很喜爱他。
在担任河南府尹时，有一个寡妇来告她儿子忤逆不孝。儿子在大堂之上只是流泪，并不为自己辩解。只是说：我得罪了母亲，该死！李杰观察他的表现，并不像不孝顺的样子。便对寡妇说：你一个寡妇人家，就这么一个儿子，你告他忤逆不孝，这可是死罪啊。杀了你儿子，你可别后悔啊！这个寡妇说：我儿子是个无赖，不知道孝顺母亲，这样的儿子死了有什么可惜的呢？李杰说：既然如此，你可以去买口棺材来，一会成殓你儿子尸体用。寡妇转身走了，李杰就让人偷偷跟在后面。寡妇出了衙门，对旁边的一个道士说：事儿办成了！过了一会儿，寡妇买棺材回来了。李杰这时候还希望她能够心生悔意，再三劝她考虑考虑。寡妇说什么也不改变主意。李杰派人把站在衙门外面的道士抓了进来。一审问，道士便招供了，他说：我和这寡妇相好，但她儿子却碍事，所以才想设计除了他。李杰放了那儿子，乱棍打死了道士和寡妇，用寡妇买的那口棺材成殓了。世人都称李杰神明。
黄河和汴河交汇处的梁公埭因长久失修而毁，致使南方漕运不畅，李杰便奏请朝廷，利用农闲时期调遣郑州、汴梁一带青壮民工进行修复。该工程支出不大而效益明显，深受当地百姓和漕运商人称赞，并为此刻石纪念。
李杰被召入朝取代宋環任御史大夫。一次，与尚衣奉御长孙昕在路上相遇，长孙昕自恃是玄宗 皇后的妹婿 ，就与杨仙玉一同殴打*辱侮**他。李杰上诉说：“伤害头发和肌肤，痛在身上；*辱侮**士大夫，耻在国家。”皇帝得知后很恼怒，下诏在朝堂斩杀长孙昕等人。左散骑侍马怀素建议说：“正值阳气调和之月，不可以施斩刑。”于是敕令改用杖刑处死，然后向百官谢过，下诏书慰问李杰。
李杰因监修桥梁有功，封为武威县子。当初，李杰引荐侍御史王旭任护陵判官。王旭贪赃枉法，李杰准备绳之以法，没等实行，反而被王旭诬陷，出任衢州刺史。后迁任扬州大都督府长史，因为再次受到御史的弹劾而免官。
开元四年，即716年，宰相卢怀慎病危时，曾向皇帝上书荐才，书中称李杰“勤苦绝伦，尽忠国事，知无不为，干时之才，众所推许。”
开元六年去世，皇帝哀悼他，特意追赠他为户部尚书。