曹操到兖州后，便招程昱，程昱答应了。临走时，东阿县的人很不理解，问：“何前后之相背也”(《三国志·魏书·程昱传》)!程昱笑而不答。曹操与其相谈，很高兴，便让程昱为寿张县令。

兴平元年(194年)，曹操东征陶谦，派程昱与荀彧留守鄄城(今山东鄄城北，兖州治所)。张邈、陈宫乘机在兖州反曹，暗中迎接吕布。各县均响应，唯鄄城、范、东阿三地不动。当时吕布军投降的人说陈宫欲率军去攻东阿，使氾嶷取范。百百姓闻后，大为恐慌。荀彧认为应当稳定民心，便对程昱曰：“今兖州反，唯有此三城。宫等以重兵临之，非有以深结其心，三城必动。君，民之望也，归而说之，殆可”(《三国志·魏书·程昱传》)!于是程昱回东阿。

路过范时，程昱对县令靳允说：“闻吕布执君母弟妻子，孝子诚不可为心?今天下大乱，英雄并起，必有命世，能息天下之乱者，此智者所详择也。得主者昌，失主者亡。陈宫叛迎吕布而百城皆应，似能有为，然以君观之，布何如人哉?夫布，粗中少亲，刚而无礼，匹夫之雄耳。宫等以势假合，不能相君也。兵虽众，终必无成。曹使君智略不世出，殆天所授?君必固范，我守东阿，则田单之功可立也。孰与违忠从恶而母于俱亡乎?唯君详虑之!”靳允流着泪说：“不敢有二心 ”(《三国志·魏书·程昱传》)。