北京时间6月30日，随着德国0:2不敌英格兰无缘八强，勒夫也以不完美的方式完成了他作为德国队主帅的谢幕战。
2006年7月12日，勒夫接替克林斯曼成为德国队新任主教练。2008年欧洲杯是勒夫带队参加的首次大赛。身处B组的德国首轮面对波兰，凭借波多尔斯基的梅开二度，德国2:0拿下波兰，勒夫拿下个人执教德国队参加大赛的首胜，并帮助德国拿到了自1996年决赛后的首场欧洲杯胜利。次轮面对克罗地亚，德国1:2不敌对手，出线形势变得严峻。好在末轮对阵奥地利的比赛中，凭借巴拉克的一锤定音，德国1:0战胜对手，小组第二出线，但勒夫因为在比赛中和奥地利主帅发生冲突而被罚上看台。1/4决赛对阵葡萄牙，勒夫因为被追加处罚，只能在包厢遥控指挥，好在德国3:2淘汰对手晋级。半决赛对阵本届杯赛的大黑马土耳其，两队的比分也胶着变化，最终凭借拉姆的绝杀，德国3:2土耳其惊险晋级决赛。德国决赛对手是西班牙，这支西班牙日后有多恐怖无需多言，托雷斯的一剑封喉最终让德国0:1不敌西班牙，遗憾地获得欧洲杯亚军。
2010年世界杯，勒夫继续率队出征。队长巴拉克重伤缺席这次杯赛让很多人为德国的前景担忧，但勒夫却率领年轻的德国队打出了令人惊讶的青春风暴。小组赛首轮，他们4：0狂屠澳大利亚。尽管次轮0：1意外不敌塞尔维亚，但末轮面对加纳，德国还是以1:0拿下对手，以小组第一晋级。进入淘汰赛的德国很快就展现出了极高的效率和恐怖的状态，4：1英格兰，4：0阿根廷让人们目瞪口呆。半决赛，德国又一次遇上了西班牙，此时的西班牙比起两年前已经更强大了，德国又一次以0：1不敌对手，止步四强，最终获得了该届赛事的季军。
2012年欧洲杯，是勒夫第三次德国参加大赛，这一次他们依旧状态火热，小组赛1:0胜葡萄牙，2:1胜荷兰，2:1胜丹麦，三战全胜小组第一出线。1/4决赛，德国又4:2战胜希腊轻松晋级四强。这次半决赛，德国没有再遇到西班牙，但却面对自己的另一个苦主意大利，结果巴洛特利发挥神勇，德国1:2败下阵来。勒夫和他的球队再一次无缘冠军。
2014年世界杯，德国人终于迎来了一次梦幻之旅。小组赛中他们先是4：0大破葡萄牙，次轮虽然意外和加纳2:2战平，但末轮迎战克林斯曼执教的美国队时，他们1:0战胜对手，最终小组第一出线。1/8决赛面对阿尔及利亚，本以为是场轻松的比赛，但德国意外陷入苦战，好在最后他们加时赛2:1战胜对手，诺伊尔则向人们展示了什么叫门卫。1/4决赛面对法国又是一场苦战，最终凭借胡梅尔斯的进球，德国艰难淘汰对手晋级四强。连续经历苦战，半决赛又面对东道主巴西，很多人都认为德国将再次止步半决赛。但勒夫和他的球队却让所有人惊掉下巴，7:1世界杯半决赛有史以来最悬殊比分，克洛泽打破罗纳尔多世界杯进球记录，德国人以一种不可思议的方式进入决赛。决赛面对老冤家阿根廷，两队90分钟战成0:0，勒夫也在积极调兵遣将，结果两个替补球员决定了比赛，许尔勒助攻格策打入全场比赛唯一进球，德国在是个24年之后，再度捧起大力神杯。勒夫作为教练，带领德国队第四次夺得世界杯冠军，他来到了他执教生涯的顶峰。
但辉煌过后就是低谷，随着克洛泽、拉姆这些老队员退出国家队，勒夫开始改造德国队的打法，但人们却发现德国队变得不再是自己所熟悉的德国了。
2016年欧洲杯，德国小组赛2:0战胜乌克兰，0:0战平波兰，1:0战胜北爱尔兰，小组第一出线。1/8决赛，德国3:0淘汰斯洛伐克，一切似乎都还正常。1/4决赛，德国再遇苦主意大利，结果双方1:1战平，德国通过点球大战击败对手，但罚丢三个点球，这是德国足球史上前所未有。半决赛面对东道主法国，德国被格里兹曼一个人击败，最终0:2不敌对手，无缘决赛。虽然依旧无缘欧洲杯冠军，但自2006世界杯开始，德国全部大赛都打入四强，这也是一个让人惊叹的成绩。
但没人会料到这是德国最后的辉煌，2018年世界杯，作为卫冕冠军的德国队踏上俄罗斯的土地时，没人会想到，迎接他们的将是一场噩梦。小组赛首轮他们0:1不敌墨西哥，次轮面对瑞典，克罗斯挺身而出帮助德国2:1战胜对手，避免两场不胜的尴尬。小组赛末轮迎战太极虎韩国，拿下对手似乎不成问题，但他们竟然0:2不敌对手，耻辱性的小组垫底出局。勒夫虽然没有因此下课，却也开始陷入不断争议，穆勒、胡梅尔斯开始无缘国家队，沉迷于脚下传控，欧国联战绩也不佳，关于勒夫的争议也越来越大。
一切争议也在2021年3月9日迎来答案，德国足协宣布勒夫会在2021年夏天的2020年欧洲杯结束后卸任。所以说迟到一年的2020欧洲杯将会是勒夫的谢幕战，但这一次勒夫和他的球队还是很难让人满意，小组赛首轮重返国家队的胡梅尔斯打入乌龙，德国0:1不敌法国，虽然次战4:2拿下葡萄牙，但葡萄牙也贡献了两个乌龙。次轮面对小组最弱对手匈牙利，坐镇主场的德国竟然两度落后，最后时刻凭借格雷茨卡的进球才惊险晋级。小组赛就丢了五球，这样的德国队很难令人满意，人们也质疑这样的德国能走多远，结果1/8决赛面对老冤家英格兰，德国0：2 不敌对手惨遭淘汰，重返国家队的穆勒错失关键单刀，勒夫面对一球落后的状况也反应迟钝不做调整，直到比赛临近结束两球落后才想起疯狂换人，但为时已晚，勒夫和他的球队不得不离开欧洲杯，勒夫也将告别德国队主帅之位。
带领德国拿下世界杯，却又不断在刷新德国耻辱底线，勒夫的德国队生涯可谓喜忧参半。
