4月4日，清明节前一天，张国焘与国民党方面派来的代表蒋鼎文，共同主持了祭祀扫墓活动。在活动结束之后，前来参加活动的人们相互道别，紧接着纷纷驱车离开。就在即将乘坐大卡车返回之时，张国焘却身边的秘书和警卫员张海说道：“你们先坐大卡车回延安吧！我还要到西安办事处，有事找林伯渠商量……”

听到这句话，警卫员张海急了，他疑惑不解地问道：“张副主席，毛主席不是交代了吗？让我们扫完墓就立即回延安吗？”

张国焘阴沉着脸，根本不理睬警卫员张海，他一个转身，就快速钻进了等在前面的蒋鼎文的小轿车。小轿车的引擎早就提前发动了而且后面的车门也是打开的，张国焘刚刚钻进小轿车，小轿车就风驰电掣般地开走了。不仅蒋鼎文的小轿车跑得飞快，国民党方面派来的其他车辆也纷纷跟在后面扬长而去。

事情发生得太突然了，好像是张国焘和蒋鼎文早已商量好的。从张国焘转身钻进蒋鼎文的小轿车，到小轿车快速开走，只有一两秒钟。这让愣在原地的警卫员张海目瞪口呆，为了确保张国焘的人身安全，他急忙挤进了其他车辆里跟着去西安。

张国焘不告而辞了，很快消息就传到了延安并惊动了毛主席。从种种迹象来看，张国焘此次出走是有计划的，而且他已经与国民党方面取得了联系，并且达成默契。这样说来，张国焘实际上是从延安叛逃了。

张国焘到达西安之后，很快就在蒋鼎文的安排下，住进了豪华的西京招待所。在这个招待所，张国焘先后受到了众多国民党官员的会见。4月7日，国民党方面准备将张国焘送往武汉，当时由于南京已经陷落，国民党军政机关大多都迁到了武汉，同时八路军也在武汉建立了办事处。

在张国焘即将乘坐火车离开西安之时，他对身边的警卫员张海说：“你给林伯渠打个电话，让他在车站等我，我有话和他说！”

得到消息的林伯渠立即赶往火车站，想劝说张国焘悬崖勒马。可是，在见面之后，张国焘却一意孤行，说道：“我在延安待不下去了，要去武汉了！”林伯渠见劝说无效，只得将张国焘的行踪报告给了中央，请毛主席和其他中央同志定夺。

此后，中央发电报给八路军驻武汉办事处，说明了张国焘即将到武汉的情况，并请周总理等人设法找到张国焘，促其醒悟，回延安工作。