晋大司马石苞自平息诸葛诞叛乱后，长期镇守淮南，勤于事务，又以威德服人，威望与恩惠在当地都很有名。
淮北监军王琛因为石苞出身卑微，又有此声望，便十分憎恨他。
晋泰始四年（268年），当地有童谣传唱说：“宫中大马几作驴，大石压之不得舒”，王琛因而秘密上报，说石苞与吴国相勾结。
司马炎接到密奏后，想起早些时候有观察云气的占卜师说“南方有大兵起”，于是十分疑惑。
正巧荆州刺史胡烈上表，报告说东吴打算大举进攻，石苞也收到了东吴要进攻的消息，于是修筑堡垒阻截水流，加强防守。
司马炎听说此事，更加担心，对羊祜说：“吴人每次入侵，常是东西相呼应，没理由从一方出兵，难道石苞果真有心反叛吗？”
羊祜拍着胸膛为石苞担保，对司马炎说：“石苞肯定不会如此。”
但司马炎仍然感到疑惑。
事情也是凑巧，石苞之子石乔刚好又被召见，但不知何故，一整天过去了，石乔竟然没来晋见。
几件事凑到一起，司马炎认定石苞要叛乱，打算暗地讨伐，就下诏以石苞没有料到敌方形势，构筑工事，阻断水流，使百姓劳累被惊扰为由，免去他的官职，派义阳王司马望率领大军征召石苞。
又命琅邪王司马伷领兵，由下邳移驻寿春，准备在石苞叛乱时镇压他。
当时，石苞征召河内孙铄为副官，孙铄从前就与汝阴王司马骏相友善。
司马骏当时镇守许昌，孙铄路过那里，就去拜访他。
司马骏知道朝廷已经派出军队，要袭击石苞，就私下对孙铄说：“你不要卷入祸事里去。”
孙铄从司马骏那里出来，日夜兼程赶到寿春，劝说石苞放下兵器，离开军队，步行到都亭待罪。
石苞听从了他的话。
司马炎听到这个消息，放下了心，才不再防备石苞叛乱。
石苞回到京城，入朝觐见司马炎。
司马炎面有愧色地对石苞说：“你的儿子差点毁了你的家门啊。”
让他以乐陵公的身份回了住所，暂时闲居。
石苞回到家中，恼怒石乔竟然奉旨而不及时朝见，让全家险遭灭门大祸，于是废置了他，终身不让他做官。
但石苞至此都没有怨恨司马炎不信任他，反而以自己在职位上无所作为而感到耻辱。
石苞被罢免后，郭廙上书为石苞抱不平。
司马炎接纳意见，随即任命石苞为司徒，下诏说：“前大司马石苞忠诚公允，清廉正直，有治理世事的才干，所经历之处都有功绩。宜于掌管教化，来佐助朝政。任命石苞为司徒。”
有官员上奏反对，说：“石苞先前有过失，承担不了这个重任。以公的身份离职回家，对他已经是厚待了，不宜提拔任用。”
司马炎又下诏说：“吴人力量薄弱，终究难有作为。因此在战场上，仅打算完善守备，使敌人不能入侵而已。由于石苞计划不同，对敌人过分担心，所以征他回京重新授职。怎么能因为一点过失而掩盖大的美德呢？”
石苞于是就任，忠诚勤政，颇受司马炎的信任。
晋泰始九年（273年）二月，石苞去世，司马炎于朝堂举行哀悼仪式，又赐钱帛和丧葬物品，更乘车送灵柩到东掖门外，赐谥号武公。
