歸降竇建德的李勣，其實內(nèi)心中并不愿意留在竇建德身邊。李勣幾次都想逃走，可是又怕危及父親的安危，所以，一直舉棋不定。最后，實在憋不住的李勣將這些心思告訴給郭孝恪，找這個老部下商議應(yīng)該怎么做。郭孝恪就說：“現(xiàn)在我們剛剛投靠竇建德，稍有舉動可能就會被他盯上，不如我們先立點功勞給竇建德，等他對我們徹底放心，再考慮如何逃走”。李勣聽從了郭孝恪的意見，不過如何才能取得竇建德信任呢？只有通過戰(zhàn)爭勝利，才能贏得竇建德的信任，可是唐的地盤是不能打的，那只有去打王世充的鄭，反正竇建德和王世充已經(jīng)破臉。再者，攻打王世充還可以加深竇建德和王世充之間的矛盾，有利于李唐將來各個擊破。

當年十一月，李勣主動出擊，把王世充剛得不久的獲嘉（今河南獲嘉）攻下，繳獲大量的物資，李勣把物資連同俘虜?shù)娜藛T獻給竇建德。竇建德十分高興，日漸信任李勣。接著，李勣又攻下新鄉(xiāng)（今河南新鄉(xiāng)），生擒守將劉黑闥獻予竇建德。至此竇建德認為李勣是真心歸順自己了。

得到竇建德信任，李勣向竇建德建議：曹（今山東曹縣西南）、戴（今山東成武）二州，戶口充實，宜攻取之。這建議是絕對可行的，因為曾經(jīng)有個叫曹操的人，就這么做過，最后天下三分，他占其二，孫劉共其一。竇建德聽完這個計劃，對李勣的看法深表贊同，為了表示對這件事的重視，竇建德深為贊同，決定親征。竇建德先命他大舅子曹旦率軍五萬南渡黃河，又令李勣率精兵三千與之會合成先頭部隊。

聽說竇建德要親征的李勣，內(nèi)心十分高興，原本李勣只是想竇建德隨便派個人來，李勣等那人來后，便將那人殺掉，得到整只部隊的控制權(quán)隨后殺回關(guān)中。沒想到竇建德親自出征，李勣便計劃趁夜襲營，殺掉竇建德，并將自己的父親解救出來。可就在竇建德要出征時，他老婆曹皇后要生孩子了。南征計劃隨即擱淺，李勣計劃被迫落空。

竇建德的大舅子曹旦。領(lǐng)兵到河南后，橫征暴斂，大肆敲詐勒索。引起很大不滿，很多歸順竇建德的義軍也怨聲載道。李勣果斷抓住這一點，積極聯(lián)絡(luò)這些義軍首腦，約定時間一同舉事。

原歸順瓦崗軍現(xiàn)依附于竇建德的義軍頭領(lǐng)李文相，與李勣為圖謀曹旦。他未曾告知李勣，自己先動手，殺了曹旦的若干部將，僅有一個獸醫(yī)幸免于難，立刻去見曹旦稟告此事。曹旦大驚，立即加強戒備。

李文相舉事之后，才命人前去通知李勣。當時，李勣的大營與曹旦駐軍的營地相距很近。郭孝恪勸李勣立刻動手，出兵奇襲曹旦，將他殺掉?？墒抢顒捱€沒動手，就聽說曹旦已經(jīng)有所防備。李勣見事情敗露，即刻和郭孝恪率幾十騎逃離大營，直奔長安。李文相后來被竇建德大軍征討，失敗被殺。

竇建德的手下群情激憤，要求殺李勣父親徐蓋，懲戒李勣。竇建德說：“李勣是李唐大臣，不忘本朝，他父親有什么罪？”就沒有殺李勣的父親，可是這件事在后世稱為攻擊李勣的一個把柄。尤其是理學(xué)昌盛的宋明之時，李勣不顧自己父親的行為，更被人罵“禽獸”，因為在宋明理學(xué)家眼里李勣不能事孝于親就不能事忠于君。自古說忠孝不能兩全，可到國家安危存亡之時，理學(xué)家要求先忠后孝，一到太平之時，理學(xué)家要求先孝后忠，或者是忠孝兩全。嘴長他們臉上，而且他們又手握筆桿子，自然都是他們的理。我們平心去看這件事，在國家危難的時候，必須有舍棄，舍小家保大家這在亂世中，是一個司空見慣的命題和內(nèi)容，只是后來的理學(xué)家們大驚小怪而已。理學(xué)家們強調(diào)所謂的“氣節(jié)”，可是沒氣節(jié)的往往又是這幫人。平日里日賦萬言，一到關(guān)鍵時刻卻說“長江水冷，不適跳江?！边@樣的理學(xué)家才是無忠無孝之人，說李勣不孝，他們也配？