李续宾屡战屡胜，打击合肥，他有点心存幸运。因为三河镇位于界河南岸，东濒巢湖，是庐州西南的首要樊篱。该镇原无城垣，承平军占据后，新筑了城墙，外添砖垒九座，凭河设险，广屯米粮军器，布施天京，因此在军事上、经济上都居首要职位。当时承平军的守将是吴定规。
1854年，西征承平军逼近长沙。曾国藩所练湘军誓师出战，在湘潭大败承平军。自此开端，向西征承平军停止反攻，接连取得胜利，连克岳州等地，在岳州高桥，城陵矶等战役中，李续宾作战英勇，因功擢升为知县。
镇守九江的林启容是承平军的闻名骁将，能攻善守。湘军打击九江西门，三战皆败，死伤甚众。湘军对九江实施全面打击，罗泽南、李续宾率部猛攻东门，因城上枪炮木石交施，多次抢登，不能到手。曾国藩见硬攻不能见效，便改取“舍坚而攻瑕”的目标，留塔齐布等持续围攻九江，调胡林翼，罗泽南、李续宾等打击梅家洲，诡计占据九江核心要点，堵截九江与湖口的联络。
进还是退？虎将李续宾一时难以决定。
而用时数年，攻陷九江，干掉承平军的名将林启容，是李续宾获得的最艰苦也是最光辉的胜利。这硬仗打得非常超卓。
1857年1月初，李续宾率所部万人顺江而下进入江西，再攻九江城。九江自1853年9月被承平军占据后，一向在承平军手中。林启容在武昌将陷之时，就督军日夜缮守具，屯米粮，浚深沟，设炮台，以防湘军来犯。从1月6日开端，李续宾陆师与扬载福海军连战数日夜，攻城不下，遂决定窜改攻城战术，3月5日，他督湘军自宫牌夹起到东边白水湖尾构筑长壕，全长30多里，共6道，每道深2丈，宽3丈5尺，于6月筑成，三面合围九江。同时，他决定先扫清九江核心承平军据点，伶仃九江。
李续宾也感到兵力不敷，他对此心知肚明，在进军三河镇时向曾国藩陈述说：“所部八千人因光复潜山，太湖、桐城及舒城留兵戍守，分去三千人。数月以来，经常苦战何尝得一日之停止。伤损精锐，疮痍满目，现已不满五千人，皆系疲弱之卒。三河一带悍贼虽多，自揣犹足以制。若遇大股援贼，兵力亦恐难支。”
田家镇一战的关头虽在水战，但李续宾最早赶到半壁山，首战得胜，又挫败了承平军反攻打算，节制半壁山，使田家镇落空依托，立了大功。此次战役后，他因功被加赏“挚勇巴图鲁”名号，他升为安庆知府。
花圃位于武昌城西二十里处，驻有承平军精锐军队万余人。在江边，堤上、青林湖畔设有大营三座，是戍守武昌的首要据点。
李续宾率部一月以内，连下四城，进军迅猛，但军队伤亡较重。仅舒城一战，湘军阵亡过千，带伤约五百人以外。
李续宾也是贫苦人家出身，湖南湘村夫，生于敦行四十四都，年青时他和项羽一样，体力过人，但他好读书。因家道贫寒，靠贩煤赡养家人，并尽力供胞弟李续宜读书。同是湘村夫的湘军大将罗泽南非常赏识他，把他和他的兄弟都收为弟子，不但免其学费，还拿出本身支出的一部分，帮他扶养家人。
李续宾与承平军的首战是1853年。当年夏天，承平军在夏官副丞相赖汉英带领下围攻南昌。江西巡抚张芾和湖北按察使江忠源守南昌，因城中兵力薄弱，要求声援。曾国藩便遣湘乡知县朱孙诒率训导罗泽南所募湘勇赴援，李续宾随军而行。