参谋部次官、中将田中义一进行了交谈。张群问田中日本为什么要帮助段祺瑞?田中回答说北京政府是中国的中央政府而段祺瑞是中央政府的总理因为“中日亲善”段现在没有钱没有力量而中国要参加欧战必须增强实力所以要支持他借款给他。张群对此不以为然他说:你们这不是看错人吗!中国和日本不一样。中国军阀的派系多互相混战如果这一派的势力增强了使他有了凭借正足以挑起他的野心引起更多的内战使中国内战不休更贫更弱这哪里算是帮助中国呢?1张群与田中的谈话不欢而散。西原借款最终签订。张群回国后在《中华新报》上表文章《中日亲善的疑云》批评日本的对华政策。
1917年9月孙中山在广州就任陆海军大元帅组织护法军政府。作为国民党员的张群到广州在大元帅府任参军。翌年4月在政学会的策划下桂滇军阀操纵国会非常会议改大元帅领制为总裁会议制孙中山坚决反对并愤而辞职离开广州前往上海。张群则继续留在广州于8月间被任命为军政府政务厅的副官长。192o年受命前去四川调解四川督军熊克武和省长杨庶堪的不和后留下任四川警务处长兼成都警察厅长。1921年西南军阀纠纷再起张群调处失败遂离川赴上海闲居一年有余。1924年初黄埔军校成立蒋介石写信叫张群前去广东他借故推托。这时期张群的好友黄郛深得北洋政府徐世昌的信任于是张群前往北京和黄郛在北洋政府中共事。1924年1o月北京政变后由于黄郛的关系张群投身冯玉祥的国民军来到在河南的国民军第二军胡景翼那里。不久任河南警务处长兼警备司令以及开封警察厅长。这段时间张群和在广东的蒋介石经常保持联系。1925年应蒋介石之约张群离开河南到广东参加北伐从此开始与蒋共事成为蒋的一位重要谋臣。1926年11月国民革命军进入江西张群成为南昌司令部的总参议。
1927年4月蒋介石动四一二政变大肆屠杀共产党人和革命群众。
张群在上海积极协助蒋。他和新任上海市长黄郛密切合作通过政治交易为蒋介石获取工商界的支持。8月13日蒋介石宣布下野不久到日本考察军事和外交张群作为翻译官陪同前往。蒋在日本会见了田中义一等政界军界要人。田中在言谈中表露出阻挠国民革命军北伐之意。1928年1月蒋介石通电宣告复职。2月国民党二届四中全会后蒋集国民党军政大权于一身继续进行北伐。张群时任国民党中央政治会议外交事务委员会委员同时兼陆军部政务次长、上海兵工厂厂长和同济大学校长。
北伐军进军山东触及日本在山东的利益。为避免出现直接的冲突张1《张群先生话往事》中国友谊出版公司1992年版第22页。
群负命前往日本与日本政府进行交涉。5月4日张群抵达东京时才知道在前一天生了济南惨案日军肆意屠杀中国军民。5月5日张群会见日本相田中义一希望通过外交途径解决纷争。稍后日方决定派参谋本部第二部长松井石根作为谈判代表前往济南。张群迅即回国13日抵上海。蒋介石决定张群作为中方代表与松井交涉所采取的方针是“尽量容忍使完成北伐统一为第一要务”1。张群与松井在济南南边的党家庄会谈几番交涉无有进展。日军仍驻留济南国民党军妥协退让绕道北上。
1928年6月北伐结束。此后张群再次衔命赴日。他在与田中义一会见时表示蒋介石即将就任国民政府行政院长希望日本在东北问题上保持友好态度对中国的统一事业不加阻难。12月东北易帜国民政府实现表面上的统一。次年3月张群当选国民党中央执行委员。不久接替黄郛任上海特别市市长至1931年。任内在上海市区设施建设上有所建树。这期间在国民党军阀大混战中张群始终协助蒋介石对付各路反蒋势力以巩固其地位。193o年5月爆中原大战冯(玉祥)阎(锡山)联手反蒋蒋地位危急。而张学良坐镇东北静观局势的变化。蒋介石为拉拢张学良派张群和吴铁城前往东北游说张学良。张决意倒向蒋9月18日出拥蒋通电随即派兵入关。蒋介石最终在中原大战中取胜进而巩固了他的统治地位。1931年九一八事变爆蒋介石采取不抵抗政策使日寇占领了东三省。全国人民群情激奋反对日本帝国主义的侵略要求国民党政府进行抵抗在全国掀起了空前规模的反日浪潮。张群此时赞成蒋介石的不抵抗政策认为中国正处于贫弱和内战的境地无力单独抗击日本。张群的言行引起上海抗日救国团体的不满指责张群是亲日派因此他辞去了上海市市长一职。是年冬张群到武汉任鄂豫皖“剿匪”总司令部党政委员会常务委员兼政务指导委员会常务委员主持武汉行营政治处对中国共产党领导的鄂豫皖根据地进行多次“围剿”。
日寇侵占东三省后又把矛头指向华北。1933年初日军先后攻占山海关和承德并向长城各口进犯平津危急。国民党政府一心“剿共”对日寇的进攻采取妥协的政策。5月3日国民党政府明令设立行政院政务整理委员会任命亲日派黄郛为委员长北上负责对日交涉停战。张群为协助黄郛与之一同前往北平。22日黄郛与日本驻北平武官永津达成《停战案概要备忘录》。5月31日在蒋、汪的同意下国民党军事委员会北平分会代理委员长何应钦指派熊斌与日军签订了丧权辱国的《塘沽协定》。
从1933年中到1935年底张群任湖北省政府主席。这期间为稳定华中他在湖北推行了以下几项工作:赈灾、调整税率、促进地方工业、平衡财政收支、提高行政效率、选拔县长、召集省参议会等。
1935年11月12至23日国民党第五次全国代表大会在南京举行。此时国难日重国民党内外要求“立息内争”的呼声高涨。蒋介石在会上表对外关系演讲声称“和平未到完全绝望时期决不放弃和平牺牲未到最后关头也不轻言牺牲”;“以抱定最后牺牲之决心而为和平最大之努力期达奠定国家复兴民族之目的”。这表明国民党的对