唐玄宗一路西逃，但忠于朝廷的官员们却纷纷带领军民，奋起抵抗叛军。其中，最早起来打击叛军的，是平原（今山东平原）太守颜真卿和他的堂兄常山（今河北正定）太守颜杲卿。
颜真卿是北齐文学家颜之推、唐代初期的学者颜师古的后代。早在安禄山谋反朝廷的迹象越来越明显时，颜真卿就开始备战了。他借口预防大雨，派军民修缮城墙，召集壮丁，加强城防，还储藏了很多粮食。安禄山叛乱后，河朔（黄河以北地区）一带全都陷入叛军之手，只有平原城的防守是完好的。唐玄宗刚听到河朔沦陷的消息时，悲叹道：“河北二十四郡，难道就没有一个忠臣？”当他听说平原城仍在坚持抵抗时，转悲为喜，说：“不知颜真卿是什么模样，竟能做得这样好。”
颜杲（ｇǎｏ）卿本来是安禄山的部下，安禄山的叛军到达藁（ｇǎｏ）城（在今河北省）时，他就招募了一千多名士兵，准备抵抗。安禄山攻下洛阳后，颜真卿在十天内招募了一万人，并与颜杲卿联合讨伐安禄山。颜杲卿与长史袁履谦，用计占领了井陉关（在今河北井陉），截断了安禄山的退路，河北军民士气大振，二十四郡中有十七郡又归顺了朝廷。大家推举颜真卿为主帅，聚集了二十多万人马，共同抗击叛军。
安禄山见后方不稳，急忙派大将史思明、蔡希德分两路攻打常山。常山的城防工事没修好，兵力又少，颜杲卿带领军民拼死抵抗了四天，最终粮缺弹尽，常山城被攻破。颜杲卿和袁履谦被叛军抓到洛阳，他们受尽酷刑，但仍对着安禄山怒骂不止，最后双双牺牲。
颜杲卿被害后，颜真卿仍在坚持抵抗，直到唐肃宗即位后，他才率领众人辗转来到凤翔（治所在今陕西凤翔），朝见肃宗。
另一位英勇抗击叛军，多次立下战功的名将，是张巡。
公元756年正月，安禄山叛军攻陷宋、曹等州，谯郡（今安徽亳州）太守杨万石投降了叛贼，还逼迫当时任真源县令的张巡，向西去迎接叛军。张巡却率领军民讨伐叛贼，在雍丘（今河南杞县）一举击败叛军大将、原雍丘县令令狐潮。
数月后，令狐潮重整旗鼓，率领四万大军扑向雍丘，想报仇夺城。当时张巡只有四千人，士兵们都很紧张，张巡却胸有成竹，对将士们说：“令狐潮气势虽凶，又了解城中情况，必然有轻视我们的想法。现在我们出其不意出击，敌人一定惊怕而退，我们乘势追击，必可打胜仗。”
于是，他派一千人登城防守，自己亲自率领一千人，分成数个小队，开城门突然冲出。张巡身先士卒，直冲贼阵，打得贼兵人仰马翻，纷纷败退。
第二天，叛军又来攻城。他们用百门大炮轰城，打得城楼都倒塌了。张巡在城上修建木栅来防守。叛军像蚂蚁一样蜂拥而上。张巡命士兵把干草浸透油脂，烧着后投向贼兵，叛军不得不退却。
张巡知道自己的兵少，所以每次都以坚守为主，用智谋打退敌军，或者乘天黑偷袭敌营。这样坚持了六十余日，大大小小打了三百余仗，叛军无计可施，只得将雍丘城团团围住。
不久，雍丘城中箭已用完。张巡效法诸葛亮草船借箭的妙计，命令士兵做了一千余个草人，披上黑衣，趁夜晚用绳索吊到城下。叛军以为城中守军要突围偷袭，纷纷用箭射击。过了很久，他们才发现城上吊下来的是草人。但这时，草人浑身都射满了箭，有数十万支。
后来，张巡又趁黑夜将派五百名敢死队坠下城去，贼兵以为又是草人，所以也不防备。五百名敢死队便冲入贼营，令狐潮的军队猝不及防，顿时大乱，把自己的营帐烧掉逃走了。这样，张巡不仅确保了城池不失，而且在战斗中反败为胜，给叛军以沉重打击。
不久，令狐潮又卷土重来，增调兵马包围了雍丘城。张巡派部将雷万春在城头上同令狐潮对话。叛军纷纷射箭，雷万春的脸上一连被射中六支箭，仍然一动不动，镇定自若。令狐潮怀疑是木头人，派人来问才知是雷万春，不由得大吃一惊，远远地对张巡说：“刚才看见雷将军这个模样，才知你的军令的确很严。但是人算不如天算，雍丘城终将被攻破。”张巡回答说：“阁下连人伦都不知道，怎么能通晓天道呢？”
令狐潮理屈词穷，叛军们斗志衰落，张巡抓住战机率兵出击，又一次大获全胜，擒获叛军将领十四人，吓得令狐潮连夜逃到陈留，龟缩在城里，再也不敢出来。
从公元756年年初，雍丘保卫战开战，叛军一直不断地增兵，但张巡率将士誓死守城，直到这年年底奉命主动撤离。在这期间，雍丘城始终岿然不动，成为大唐抗击叛军的坚强堡垒。为表彰张巡的忠诚与战功，后来的唐肃宗李亨专门下诏任命张巡为河南节度副使。
