齐桓公上台时，鲁国还强盛，桓公二年(前684年)，齐出兵伐鲁，以报鲁支持公子纠复国之仇。鲁国的曹刿自荐见鲁庄公, 与庄公谈论治国平战之策，得到庄公重用,让其带兵与齐在长勺(今山东莱芜东北)会战。开战时鲁庄公想击鼓，曹刿说还不行。 齐人擂了三通鼓，见鲁军不动，正在疑惑时，曹刿就让鲁庄公擂 鼓出击，一举将齐军击溃。鲁庄公准备马上追击，曹刿阻止，自己先下马看齐军的车轮轨迹，再登车望齐军的旗帜，才请庄公发兵追赶。
齐军这一仗被打得大败。事后鲁庄公问曹刿为什么这样做，曹刿说:打仗在于勇气,必须一鼓作气，齐军一而再、再而三擂鼓不出战，就说明士气衰落,鲁军乘机出击，双方士气敌衰我足，所以能取得胜利。齐军败后，不让鲁军立即追击，是因为齐 是大国，难以猜测是否有诈，怕另有埋伏。“吾视其辙乱，望其旗靡，故逐之(《左传》庄公十年)鲁军所以能击败齐军，一方 面反映了曹刿的智慧，另一方面也说明齐军这时还不十分强大。
鲁国战胜齐军后，起兵侵略宋国，齐国联合宋国来对付鲁，双方军队到达郎，鲁大夫公子偃认为宋军不整齐，可以先击败，宋败了，齐军必然逃去。鲁庄公不同意。公子偃偷偷从鲁南门出击，在战马上蒙上虎皮，先冲击军营，鲁庄公率军接应，把宋军打败在乘丘(今山东兖州一带)。宋军败后，齐军也撤退了。第二年，宋国为了报乘丘之仇，又起兵攻伐鲁国，鲁庄公趁宋兵尚未列阵就逼其作战，再次把宋军击败在部。
宋国被鲁国打败两次，不久内部发生了变乱。宋国的将军南宫长万，在乘丘之战时被鲁庄公用“金仆姑”箭射倒，成为俘虏。宋国请求鲁国将其释放，鲁国答应放他归宋。南宫回宋国后，宋闵公当面取笑南宫长万说:“始吾敬子，今子鲁囚也，吾弗敬子 矣”(《左传》庄公十一年)。南宫听了很为恼怒，图谋作乱。公元前682年秋，他在蒙泽杀了宋闵公，在城门口又击杀了大夫仇 牧，在东宫之西杀了太宰华督，拥立公子游为君。宋国群公子逃奔到萧(今安徽萧县西北)，公子御说逃至亳邑，南宫长万派其子南宫牛和部将孟获带兵围亳。
宋国萧邑大夫萧叔大心同宋戴公、 武公、宣公、穆公、庄公的子孙，依靠曹国的军队反攻，杀南宫牛于军中，又乘胜杀公子游，立公子御说为君，是为宋桓公。 孟获逃至卫国，南宫长万逃奔陈国。宋向卫国索回孟获，又贿赂陈国，要回了南宫长万，将他们全都杀了。宋国内变后，国力不振，中原东部只有鲁、齐两国相对阵了。
齐国在鲁宋两国打仗时不断向外发展，桓公二年冬 灭了谭(今山东济南东南)，三年后齐国邀请宋、陈、 蔡、邾等国在北杏(今山东东阿)会盟，以平定宋国的内乱，征召遂国(今山东宁阳西北)赴会,结果遂使不至，齐国以此为借口灭了遂国。那年冬天，齐桓公与鲁国在柯(今山东阳谷东北)结盟，会上鲁将曹沫以匕首劫持齐桓公,逼其归还三败鲁军侵占之地，齐桓公为了取信于诸侯，将占鲁之地归于鲁。齐桓公六年，因为宋国违背北杏之盟，齐桓公邀集陈、曹两国合兵伐宋，又请周王室派王师参加，周王派单伯带兵跟三国军会合共伐宋，宋国只能屈服。这是齐桓公继郑庄公之后，首次“挟天子以令诸侯”。
这一年，郑国再次内乱，外逃的郑厉公以其据点东进攻郑，实现了复辟的目的。郑厉公复位后，为了找靠山，就与齐国结盟。齐桓公邀请周单伯与宋、卫、郑三国在鄄城(今山东鄄城西北)会盟;第二年春天，齐、宋、 陈、卫、郑五国再次在鄄城会盟，这样就开始了齐桓公的霸业。
鄄城会盟后的夏天，鲁夫人文姜也到齐国结好，黄河下游的鲁、郑、宋、卫四大国都屈服于齐国。但诸侯之间仍有矛盾，尤其郑、宋两国之仇没有完全解除。这年秋天，齐、宋、邾三国共伐郳国，郑国乘机攻打宋国。于是第二年，齐、宋、卫三国联兵讨伐郑国。楚国也借口郑厉公告诉楚国回郑国之事较晚而攻伐郑国，一直打到栋地。这就开始了以郑为焦点的楚、齐之争。
同年冬，郑国投降齐国，齐、鲁、宋、陈、卫、郑、许、滑、滕诸国在宋国的幽 (今河南兰考)会盟。次年，因为郑国不去朝见齐国，齐国就拘留了郑国的执政大臣詹。不久，遂国的因氏、颌氏、工娄氏、须遂氏四族用酒灌醉并杀尽齐驻守遂国的戍卒，詹从齐国逃奔鲁国。公元前675年及第二年，鲁夫人文姜两次前往莒国，与莒国结好，可能也想叛齐。于是齐、宋、陈三国联合进攻鲁国的西部边境。
公元前675年，周王室发生第二次内乱。周惠王逃奔到郑国，郑、虢护惠王复位。郑
因得罪了齐，想以此联络王室，与齐对抗。周惠王复位后，由于周王室对郑、虢的赏赐不一而使郑、周关系恶化。 郑厉公不久去世,使郑丧失了再次挟天子以令诸侯的机会。
齐桓公十四年春，陈国发生内乱，太子御寇被杀,其党公子完和颛孙逃奔到齐国，颛孙又逃到鲁国。齐桓公任公子完为工正官。陈国面对齐国这样的做法不敢作出任何反应。那年，鲁国还向齐国纳币(聘礼)，说明齐国已能驾驭诸侯。第二年,鲁君亲自至齐国观看祭社之礼，先后又与齐在穀、扈等地相会。 齐桓公十六年，鲁庄公亲自到齐国迎娶了齐女哀姜(齐襄公之女)为夫人，用了超常规的礼仪。这事说明鲁国实际上变成了齐国的附庸。
桓公十九年，齐、宋、陈、郑在幽会盟，陈、郑向齐屈服。周王派召伯廖来赐齐桓公为侯伯(霸)，并让桓公讨伐卫国，以惩卫国曾在周立王子颓之罪。第二年，齐桓公就以王命公开伐卫，卫国失败。齐国数责卫国有违王命之罪，收取贿赂而去。至此，齐桓公的霸业已展开，黄河下游各国都归附于齐国。
