起初，公孙渊的哥哥公孙晃作为公孙恭的质子，留在洛阳。他得知公孙渊夺取了公孙恭的位置后，就预感到公孙渊迟早会惹出大祸，多次向朝廷上表，希望朝廷能出兵讨伐公孙渊。魏明帝考虑到公孙渊当时已经掌握了辽东的大权，为了稳定局势，只是安抚公孙渊，并没有采取行动。等到公孙渊公然反叛，公孙晃也受到牵连，被囚禁起来。公孙晃虽然之前提醒过朝廷，但他心里明白，自己身为公孙渊的兄长，公孙渊一旦兵败，自己也难逃一死。当公孙渊的首级被送到洛阳时，公孙晃知道自己必死无疑，他和儿子相对而泣，场面十分凄惨。当时，魏明帝本想饶公孙晃一命，可大臣们认为公孙晃与公孙渊是骨肉至亲，罪不可赦，最终公孙晃还是被处死了。
在东汉末年那个动荡不安的年代，常山真定有个名叫褚燕的年轻人。当时，黄巾起义的烽火燃遍大地，天下陷入一片混乱。褚燕看着百姓在战火中受苦，心中涌起一股豪情，他召集了一群志同道合的少年，在山林湖泽间四处转战，劫富济贫，很快就聚集了一万多人。他们的队伍所到之处，官府为之头疼，百姓却暗暗称快。
与此同时，博陵的张牛角也拉起了一支队伍，他自称将兵从事，在当地颇有威望。张牛角听闻褚燕的事迹后，觉得两人志同道合，便带着自己的人马与褚燕会合。两支队伍合在一起，力量大增。褚燕敬重张牛角的为人和谋略，便推举他为统帅。
不久后，他们决定攻打瘿陶城。在激烈的攻城战中，不幸的事情发生了。张牛角身先士卒，冲锋在前，却被一支飞箭射中，身受重伤。他知道自己命不久矣，在弥留之际，他把众人召集到身边，用尽最后一丝力气说道：“我死后，你们一定要尊褚燕为帅，继续带领大家！”张牛角死后，众人遵照他的遗愿，一致拥戴褚燕为统帅。为了纪念张牛角，褚燕决定改姓为张，从此，他便以张燕的身份带领着这支队伍。
张燕为人剽悍勇猛，行动敏捷迅速，远超常人。在战场上，他总是一马当先，如同一道黑色的闪电，让敌人防不胜防。因此，在军中，大家都称他为“飞燕”。随着时间的推移，张燕的名声越来越大，各地的小股势力纷纷前来投奔。常山、赵郡、中山、上党、河内等地的山谷之间，都有他的势力活动。像孙轻、王当等小帅，各自带着部众加入了张燕的队伍。渐渐地，张燕的人马发展到了百万之众，他们占据着黑山一带，被世人称为“黑山军”。
黑山军的势力日益壮大，让东汉朝廷头疼不已。汉灵帝多次派兵征讨，却都无功而返。河北诸郡的百姓深受其害，生活苦不堪言。张燕看着百姓们在战火中挣扎，心中也有所触动。经过一番思考，他决定派人前往京都，向朝廷请求归降。朝廷见张燕主动请降，便封他为平难中郎将，希望以此来安抚这支庞大的武装力量。