不久，程昱升为振威将军。

建安五年(200年)，袁绍在黎阳，将率军南渡与曹操决战。时程昱只有700士兵守鄄城，曹操闻后，派人告诉程昱，想给他增兵2000。程昱不肯，说：“袁绍拥十万众，自以所向无前。今见昱兵少，必轻易，不来攻。若益昱兵，过则不可不攻，攻之必克，徒两损其势。愿公无疑”(《三国志·魏书·程昱传》)!曹操从之。后袁绍闻鄄城兵少，果然未去攻打。曹操对程昱胆略、智慧大为赞赏，对贾诩说：“程昱之胆，过于贲、育”(《三国志·魏书·程昱传》)。

袁绍死后，程昱又收集亡命之徒数千与曹操会于黎阳，破袁谭、袁尚，被封为奋武将军，封安国亭侯。

建安十三年(208年)，曹操南征荆州，刘备逃奔孙权。当时曹军都认为孙权会杀刘备，唯程昱认为：“孙权新在位，未为海内所惮。曹公无敌于天下，初举荆州，威震江表，权虽有谋，不能独当也。刘备有英名，关羽、张飞皆万人敌也，权必资之以御我。难解势分，备资以成，又不可得而杀也”(《三国志·魏书·程昱传》)。孙权果然与刘备合兵，在赤壁之战中击败曹操。

曹操统一北方后，抚程昱背而说：“兖州之败，不用君言，吾何以至此”(《三国志·魏书·程昱传》)