李靖在青少年时曾锐意进取，然而一旦富贵在身，又深惧盈满，能知足而退。到了贞观八年（634年）十月，担任宰相职务刚满四年的李靖即以足疾辞任，而且言辞恳切。李世民明白他的心意，并十分欣赏他的这一举动，派中书侍郎岑文本转告他说：“朕纵观从古至今的历史，身处富贵而能知足的人很少。他们不论愚智，都不能有自知之明，才能即使不能胜任，也竭力想要任职，纵然有疾病，还自己勉强为官，不肯放弃职权。您能够识大体，见识深远够得上是可嘉的了，朕现在不仅成全您的美德，还想让您成为一代楷模。”
特颁下诏书，加授特进，赐物千段，尚乘马两匹。如足疾稍好一些，每二三天可到中书、门下平章政事。贞观九年（635年）正月，李世民又赐给李靖灵寿木手杖，用这帮助他脚不方便时使用。可此事还未过两个月，就发生了吐谷浑进犯凉州的事件，朝廷决定兴兵反击。在任命统帅时，李世民自然想到了足智多谋、威名震撼边庭的李靖，认为他是最为合适的人选，可惜足疾未愈。而这位年逾花甲的老将军一听到朝廷将远征吐谷浑的消息，顿时精神抖擞，他顾不上足疾与年事已高，主动去求见宰相房玄龄，请求挂帅，亲自远征。李世民大喜过望，这年十二月，即任命李靖为西海道行军大总管，又分别任命兵部尚书侯君集、刑部尚书李道宗、凉州都督李大亮、右卫将军李道彦、利州刺史高甑生等五人为各道行军总管，统由李靖指挥。于是一场大规模的反击吐谷浑的战争序幕拉开了。李靖奉命赴任之时，正值寒冬腊月季节。他一路踏着冰雪，风餐露宿，备尝艰辛。翌年闰四月，唐军在库山（在今青海天峻）与吐谷浑交战，李道宗部大败吐谷浑，唐军首战告捷。狡诈的吐谷浑伏允可汗一面往西败退，一面令人把野草烧光，以断绝唐军马草。干草已被烧光，春草尚未萌生，诸将大都认为战马瘦弱，不可长途追击。侯君集认为吐谷浑已“鼠逃鸟散，斥候亦绝，君臣携离，父子相失，取之易如拾芥，此而不乘，后必悔之”。李靖完全赞同他的意见，决定不给敌人喘息的机会，于是兵分两路：李靖与薛万均、李大亮等从北道，侯君集、李道宗从南道，两路大军一齐进发。李靖亲自率领的北路军进展顺利。不几天，其部将薛孤儿于曼头山击败吐谷浑军，杀其名王，用缴获的大批牛羊充作军食。接着李靖的主力军也先后于牛心堆、赤水源两次大败吐谷浑军。侯君集、李道宗所率南路军进展也很迅速，他们深入荒漠二千余里。这里荒无人烟，温差变化大，有时酷热难忍，有时寒冷得令人颤栗。有时无水，他们只能刺马饮血解渴。唐军克服了种种困难，长途奔袭，到了五月，终于在乌海追上了伏允可汗，又大败其军，俘获了其名王。薛万均等于赤海也打败了吐谷浑的天柱王军。李靖都督各军继续进击，又连战告捷。李大亮军于蜀浑山击败吐谷浑军，获其名王二十人。部将执失思力也在居茹川击败吐谷浑军。唐军乘胜进军，经过积石山河源，一直打到吐谷浑西陲且末。部将契苾何力追击伏允可汗，破其牙帐，杀数千人，缴获牛羊二十多万头（只），并俘虏了其妻子。伏允可汗率一千多骑兵逃到碛中，已到了山穷水尽的地步，部下纷纷离散。不久，伏允可汗为部下所杀。其长子大宁王慕容顺杀死天柱王，率众降唐。李靖率军经过了两个月的浴血奋战，攻灭了吐谷浑，并向京师告捷。唐朝为了控制吐谷浑旧境，封慕容顺为西平郡王、趉故吕乌甘豆可汗，并留下李大亮协助防守。李靖在进击吐谷浑时，盐泽道总管高甑生未按期到达，贻误了军机，受到李靖的责备。高甑生心怀不满，战事结束后，即串通广州都督府长史唐奉义诬告李靖谋反。李世民下令调查此事，弄清真象，判定高甑生以诬罔罪减死，流放边疆。从此，李靖“乃阖门自守，杜绝宾客，虽亲戚不得妄进”。贞观十一年（637年），李世民改封李靖为卫国公，授濮州刺史，依旧命他世袭爵位，后因子孙丧命而未执行此令。贞观十四年（640年），李靖的妻子去世，李世民诏令坟茔规格依照汉代卫青、霍去病的旧例，把坟墓修筑成突厥境内的铁山、吐谷浑境内的积石山的形状，以此表彰李靖特殊的战绩。贞观十八年（644年），李世民亲自到李靖的府第问候病情，还赐绢五百匹，晋位开府仪同三司。李世民准备亲征高句丽，把李靖召入阁内，赐坐后问道：“公在南边平定吴会，北边扫清沙漠突厥，西边安定吐谷浑慕容，只有东边的高丽没有征服，您意下如何？”
这位年过七旬的老将虽染病在身，仍表示愿意从行，对李世民说：“我过去凭借天子的威力，做了点微小的贡献，现在已是残年朽骨，应该随从这次出征。只是怕死在途中，连累陛下。”
李世民以司马懿老病自强、为曹魏立功做比喻，以安抚李靖。李靖叩头道：“老臣请求带病随行。”
但随行至相州，李靖便因病重而无法再行进。李靖虽未从征高句丽，但对前线的战事颇为关注。李世民进至驻跸山（今辽宁辽阳南）时，高句丽兵倾国出动，内部空虚，李道宗曾请求率精兵五千，奇袭平壤，李世民未答应。事后回京，李世民询问李靖说：“我用天下的军队，如今却被小国所困，这是为什么呢？”
素以出奇制胜的李靖以为李世民未能听从李道宗的计谋，便说：“请李道宗解答。”
李世民询问李道宗，李道宗说明了当时的建议未被采纳。李世民听后，怅然说：“时间太快了，朕竟不记得来了。”
贞观二十三年（649年），李靖病情恶化，当时也已病重的李世民亲临病榻慰问。他见李靖病危，涕泪俱下，十分难过地对李靖说：“公乃朕生平故人，对国家有功劳。如今病到这种地步，为公感到担忧。”
同年四月二十三日（7月2日），李靖溘然逝去，享年七十九岁。李世民册赠司徒、并州都督，给班剑、羽葆、鼓吹，陪葬昭陵，赐谥号为“景武”。