胡显伯有一颗爱国心。1937年，日寇侵华，扬州沦陷。胡显伯全家逃难到东台八灶，老宅被日寇洗劫一空，结发妻子又被兵匪谋财害命，国仇家恨使胡显伯对日寇恨之入骨！1939年他迁泰州避祸，有幸拜识一位大将军，此大将军正是陈毅。
为了开辟苏北，新四军苏北指挥部司令员陈毅从苏南过江。当时的苏北是敌顽天下，陈毅涉险三进泰州开展统战，粉碎了韩顽拉拢二李组成苏北反共大联合的阴谋。此间，38岁的陈毅二顾茅庐，两次去水仓巷造访已届花甲之年的胡显伯。胡显伯叹服陈毅儒将风采，遂表示，将军饮马江淮，胡某定义纾国难。
1940年郭村保卫战后，陈毅东进黄桥建立抗日根据地。顽固派省长韩德勤调用十万兵力扑向黄桥。为了团结抗日，陈毅请胡显伯等从中调解。胡显伯毅然出山，呼号于决战前夜的苏北战场。9月下旬，胡显伯与韩国钧、黄逸峰、黄辟尘、朱履先等八县名流，齐集黄桥丁家花园，与陈毅分析局势，研究对策，后联名发出三函：第一电函致苏北各军事长官，呼吁合力对外；第二、三封电函致重庆黄炎培并转蒋介石，控诉韩顽纵敌害友罪行，主张驱韩。9月26日，胡显伯等士绅前往姜堰，向陈毅传达韩德勤关于新四军必先退出姜堰以示和平的条件。第二天，胡显伯等出席姜堰军民代表会，陈毅慷慨宣布新四军顾全大局退出姜堰！其后，胡显伯等却闻韩顽又提出新四军必须开回江南，一致谴责韩顽“贼子无信，天必殛之”！陈毅也曾写道：“即到姜代表黄辟老、胡显老、黄委员诸公，亦哗然有受人愚弄之伤感。”
胡显伯等人的调停虽然失败了，但却暴露了顽固派的卖国嘴脸，赢得了民心，为黄桥大捷奠定了政治基础，因而韩顽《战报》将显伯等诬为“无聊政客”通缉。而陈毅在黄桥大捷后，曾在紫老船厅笑谈，等苏北回到人民手中，请显老当法院院长！并当场挥毫褒赞开明士绅：“杖国抗敌，古之遗直；乡居问政，华夏有人！”胡显伯辞世时，国民党元老于右任亦以“高风亮节”挽之。