范致虛進兵到千秋鎮（今義馬市千秋路街道），果然被金兵打得全線潰敗、官吏四散。
建炎元年（1127年）四月，金兵進犯陜州，經制使王燮抵擋不住，率部逃跑。
當時陜州官吏逃逸，唯有李彥仙以石壕尉（今陜州硤石鄉）的身份堅守三觜山（約今硤石以南崤山之中），父老鄉親爭相投靠，他對前來依附的人說：“我不是本縣人，不像你們一樣祖祖輩輩生活在這里。如今我尚且努力守護國土，如果你們不盡力，那么金人就會殺死你們。”
于是眾人紛紛從軍。
他將老幼遷至土花寨，選拔精銳駐守三觜山、石柱山、大通山等地營寨，彥仙對眾人說：“金人其實很好對付，如今我們有地利，足以自守”。
不久，金兵主力進攻三觜山。李彥仙巧施計謀，先派部分精兵埋伏，后同金兵正面廝殺，雙方拼斗正酣時，伏兵突從金兵背后掩殺過來，金兵猝不及防，大亂潰逃。
消息傳出，開封、洛陽一帶群眾爭相投靠，隊伍迅速擴大，李彥仙接著兵分四路，還沒到一個月就接連攻下金人五十余座營壘。
此役斬獲千余人，奪取戰馬三百匹，一戰成名。
金兵進占陜州城后，讓降兵和未逃散的士卒駐守，并派當地人任官職，命其將市民召回城中，李彥仙趁機派兵士混入城內。
建炎二年（1128年）三月，李彥仙率兵攻打陜州南門，金兵慌忙到南城抵抗。
當晚，預伏的水軍從新店出發，順流而下至陜州城東北的蒙泉坡、龍塘溝，潛入城內，與城內軍隊呼應夾擊，金兵棄城逃散，陜州城光復。
當時李彥仙聯合各路義軍守陜州，任命河東義軍領袖胡夜叉為沿河提舉。
胡夜叉不滿，劫掠陜州南原，隨后被李彥仙誘殺，獲得其部眾五千。
胡夜叉部下義軍首領邵隆、邵云原本想要報仇，但在彥仙的勸說下歸服。
彥仙乘勝渡過黃河，在中條山建立營寨，蒲州、解州至太原的老百姓紛紛前來歸附，于是派邵隆、邵云等率軍攻打陜州的芮城，河中府的虞鄉，絳州的絳縣、正平，解州的解縣、安邑，接連告捷。
彥仙部與金人在蒲州反復拉鋸，因金軍援軍到達而放棄繼續攻蒲州城，將所俘金將護送至行在。
宋高宗對輔臣說：“知李彥仙與金人戰，再三獲捷，朕喜而不寐。”
于是授李彥仙陜州知州兼安撫使，升武節郎、閣門宣贊舍人，并賜他袍帶、槍劍。
建炎二年四月，李彥仙主動節受鄜延經略使王庶的統領，向來與王庶有隙的曲端對此非常不滿，這也使李彥仙和曲端之間產生了矛盾，成為陜州孤立無援、最終陷落的原因之一。
李彥仙收復陜州時，潼關以東僅有此城還在宋朝手中。
李彥仙加緊修筑城墻，深挖護城河，擴充軍備，大力屯田，并將全家從鞏州搬到陜州，表示要“以家殉國、與城俱存亡。”聽者無不動容。
建炎二年（1128年）冬，李彥仙在陜州城下與金將烏魯撒拔大戰七天，金兵死傷慘重，愴惶撤離。
建炎三年（1129年），婁室從絳州移屯蒲州、解州，發兵陜州，李彥仙通過諜報知道后在中條山設伏，痛擊來犯之金軍，俘獲金將十八人，婁室僥幸脫逃。
正月十二日，麾下將領邵隆收復虢州（今靈寶、盧氏），彥仙命其知虢州。
彥仙任命另一位將領黨松知同州（今陜西大荔），但由于當時同州城還為金軍占領，因此黨松將治所設置于同州城三十里以外的下寨（今大荔下寨鎮）。
李彥仙被朝廷授予右武大夫，寧州觀察使兼同、虢二州制置使（據《宋名臣言行錄》載為河、解、同、耀制置使）。
當時有河東土豪暗中投靠，期待與宋軍里應外合。