却说曹操占有青兖州两洲之后也大兴屯田制，因地少人多所以向南发展，于兴平元年（194）夏，兖州牧曹操准备进攻徐州，徐洲牧袁绍闻之，亲率武将焦触、高干、臧洪、吕翔、吕旷、吕威璜、高览谋士：逢纪荀谌、许攸、董昭、常林等人率六万大军前去迎战曹操，两军汇于山阳郡巨野县城外十里金山。然两军各退三十里，各自深沟高垒，相持不战。两军按营立寨。一日，袁绍问计与众谋士曰：“曹操率军无故犯我，诸位有何良策可胜操？”谋士逢纪回袁绍曰：“主公，现两军汇天金山，山上有一金山大洞，传为秦始皇东巡泰山时建造的驻跸行宫，可派上将两员带兵一万驻之，明日交战主公可带兵三万迎之，如能取胜则一鼓作气胜之，如不能则诈败退于齐鲁会盟台后，我等伏兵两万与齐鲁会盟台上只等曹操兵到，一齐杀出，等两军战到精疲力竭之时，主公可放炮让伏于金山大洞之一万精兵从曹操军后背杀出，此时曹军必败。”
次日袁绍军于曹营之前摆开阵势，挑战曹军，曹操一看也打开寨门列阵，袁绍派出手下大将臧洪挑战，曹操也派出上将曹仁，两将在大军之前大战约五十合不公胜负，袁绍一见一时不能取胜，挥三万大军齐攻之，操迎之，两军厮杀两个时辰，因曹操三军骁勇袁绍一见一时无法取胜，所以袁绍带头败退，曹操见袁绍率军败退于是率军杀之，袁绍军败退至齐鲁会盟台后，只见台上袁绍大将吕翔、吕旷率两万大军从台上杀出，吨时曹军大乱，两军从午时杀到申时，袁绍一见两军己杀得精疲力竭，于是一声炮响，焦触、高干率一万精兵从曹军后背杀出，曹军大败而走。
却说吕布直从杀了董卓被朝中封为奋武将军，假节，仪比三司，进封温侯，与王允同掌朝政。此间吕布曾在城北与郭汜单挑决胜负，吕布以矛刺中郭汜，郭汜被左右军队所救，双方遂各自罢兵。但吕布在朝中无势率军出长安，途中经过陈留，太守张邈派人迎接吕布，对他大加款待，临分手时两人握住对方手臂发誓结好。曹操、袁绍大战之时，手下张辽于吕布曰：“主公为人中豪杰，但东奔西跑无一安身立命之所，现曹袁相斗，可利其洲地空虚，联手张邈夺取兖州。”手下猛将成廉、魏越也齐声道：“将军此计可行”。
于是兖州在陈留太守张邈的带动下发生叛乱，兖州东郡、山阳郡二郡外，皆叛应吕布，形势十分紧张。曹操恐进退失据，急速赶回兖州。途中听说吕布未能攻下兖州州治鄄城，正驻军于濮阳（今河南濮阳西南），大为高兴，说吕布得兖州之地，不能拒守东平（今山东东平东），切断元父（险道，今山东济宁县南）、泰山之路，拒险截击我军，却屯于濮阳，他不会有太大作为了。遂进军濮阳。吕布使濮阳大姓氏行反间计，赚曹操入城，曹操既进城，命火烧城门，激励将士有进无退。吕布伏兵大出，曹军溃乱。曹操单骑逃跑，误入吕布军中，吕布士兵不识曹操，问：曹操何在？曹操诈言：前乘黄马跑者是，以此脱险，至城门冒火而出，左臂被火烧伤。曹操初战败于吕布，遂治攻具，反复进攻濮阳，达百余日之久，终不能克。后蝗灾大起，吕布、曹操军粮不继，暂时休战，各引兵退去，曹操还于鄄城，吕布屯于山阳（今山东金乡西北）。时扬洲牧袁术见曹操新失兖州，军无所食，遣使劝说曹操归附，将家属迁居寿春城，使其成为袁术部属。曹操谋士程昱之议，断然拒绝。兴平二年（195）春，曹操再攻吕布，先败吕布于定陶（今属山东）。又在二年夏天进击驻守任城国樊县的吕布部将薛兰、李封。吕布率兵来救，见薛兰等已败，退走。曹操遂杀薛兰等人。吕布旋即率兵万余人反攻曹操，时曹操兵多出取麦，营中不足千人，曹操于营外设伏，以计大败吕布，追到其营。吕布乘夜逃走。曹操继续进兵，收复定陶，又分兵平定诸郡县，张邈随吕布逃至冀州，曹操将兖州全部收复。此年十月，汉廷正式拜曹操为兖州牧，至此，兖州又为曹操所控制。