彭城之战的惨败让刘邦深刻认识到骑兵的重要性。痛定思痛之下，刘邦决定组建一支属于自己的精锐骑兵部队，而这个重任就落到了灌婴的肩上。
《史记》记载：“灌婴虽少，然力战，乃拜灌婴为中大夫，令李必、卢绾为左右校尉。”灌婴被任命为中大夫，作为汉军骑兵司令，负责统领这支新组建的堪称特种兵的郎中骑。
他和李必、卢绾这两位有着丰富骑兵作战经验的秦朝降将一起精心训练这支骑兵部队。很快，这支骑兵就在战场上发挥了巨大作用。
在荥阳以东，灌婴率领的骑兵与楚军骑兵正面交锋。这一战堪称强强对决，最终灌婴大破楚军骑兵。
这一胜利不仅极大地鼓舞了汉军的士气，也让灌婴在楚汉相争的战场上声名大噪。从那以后，灌婴开启了他在战场上的高光时刻，四处征战，立下无数战功。
在之后跟随韩信攻打齐国的战役中，灌婴的表现堪称惊艳。在历下之战中，汉军灌婴部几乎全歼了齐国的骑兵主力部队。
之后，灌婴率领郎中骑连续作战，连续击破齐军残部，打得齐军毫无还手之力。
关于齐国作战，灌婴部主要参与了以下4场战役：城阳之战，齐国相国田横逃到城阳，灌婴在城阳击败田横，并一路追击到博地将其抓获；
博阳之战，灌婴追击到博地，先后击败齐国丞相田横的下属骑兵部队，斩杀其部将綦毋卬，活捉了杜平；
千乘之战，灌婴还是保持之前的猛攻战术，在千乘就地全歼了齐军田吸所部；高密之战更是迎来了一场名垂青史的对决。
当时项羽麾下第一猛将龙且率领20万大军救援齐国，灌婴毫不畏惧，亲自率军与龙且展开激战，最终在战场上亲手斩杀了龙且。
这场胜利让灌婴的威名传遍天下。可以说，灌婴几乎参与了齐国境内所有主要战役，堪称灭齐之大功臣。
而在楚汉相争的决定性战役——垓下之战中，灌婴更是展现出了卓越的军事才能。他率领5000骑兵奉命追击溃败的项羽。
《史记》记载：“灌婴以御史大夫受诏将车骑别追项羽至东城，破之。”
灌婴一路追击到东城，成功将项羽的楚军主力歼灭，最终他部下的5个人合力斩杀了项羽，彻底终结了楚汉相争的局面。这一功绩让灌婴成为了汉朝开国的大功臣。