1924年9月18日,北京曹锟政府发布对张作霖的讨伐令,第二次直奉战争爆发。冯玉祥本拥曹锟,但在战争爆发后,张作霖的代表马炳南则与冯玉祥接触,传达张的意见:奉军此次的目的,并非进关拓展地盘,只是为了曹锟、吴佩孚;奉军的目的达到后,决不会再向关内进兵。冯玉祥接受张作霖的意见,在古北口与马炳南达成秘密协议,与奉军联合。此后,冯玉祥前线倒戈,联合孙岳、胡景翼发动了著名的北京政变,推翻曹锟政府。
北京政变成功后,张作霖并没有遵守与冯玉祥的约定,而是率军进入北京,与段祺瑞一同执掌北京大权。冯玉祥感到自己被张作霖作弄了,但论实力又无法与之抗衡,只好“趋避之”。他向临时执政段祺瑞提出辞呈,前往张家口任西北边防督办一职。冯、张之间的“梁子”也就由此结下了。不久之后,冯玉祥联合郭松龄反奉,原因即出于此。
蒋铁生编《冯玉祥年谱》“10月条”,对冯玉祥与郭松龄的联合有详细的记载:
(1925年)10月冯玉祥派韩复榘、程希贤等去日本参观军队秋操,11月6日,韩复榘回到包头向冯玉祥汇报在日本观操的情况,并转达了同去日本观操的东北军领队郭松龄的联冯倒奉之意。冯玉祥当时正因奉军疯狂强占地盘,而焦虑地寻找对策,所以听了韩复榘的报告,喜出望外。立即派韩复榘到天津与郭联络,并带回了郭松龄亲笔写的 《密约》 草稿,并被告知奉军将领李景林也参与这次活动,冯玉祥更为高兴,就完全同意了郭方的意见。他连夜参考郭松龄的《密约》 草稿,缮写了《密约》 两份,冯玉祥先在上边签了字。遂派参谋长熊斌与王乃模陪同郭方代表郭的参谋长李坚白和郭的弟弟郭大鸣一起即日回津。郭松龄同意《密约》 全文,并于 11 月 22 日也在密约上签了字。