1940年10月，中共南方工作委员会成立，张文彬任副书记兼组织部长。

1941年12月，日军占领了香港。原从内地转移到香港的何香凝、柳亚子、茅盾、邹韬奋等一批爱国民主人士来不及转移，眼看就要陷入侵略者的魔掌。远在重庆的周恩来指示广东党组织：想尽一切办法，将这批爱国民主人士抢救出来。张文彬迅速组织和领导广东人民抗日游击队开展工作。经过3个多月的紧张斗争，他们从日军层层封锁中，把800多名爱国民主人士和国际友人通过陆路、水路分批接回内地。

1942年5月下旬，张文彬得悉江西省委遭到破坏的消息，当即同南委书记方方等研究部署机关撤退工作。6月初，张文彬一行向东江转移时，遇上叛徒郭潜(原南委组织部长)及所带引的特务队。当郭潜指引众特务合围过来时，张文彬一面极力反抗，一面向周围高声呼叫：“请大家注意，有汉奸逮捕爱国分子！”他的呼叫报警，使同行的其他同志得以警觉，迅速离开险境。

张文彬被捕后，被押送到江西太和县国民党监狱囚禁。面对病情严重的张文彬，敌人说只要他转变立场，不仅可以获得自由，还可以给他治病。张文彬严词拒绝，大义凛然地宣称：“宁可坐牢而死，决不跪着爬出去！”敌人的如意算盘一个个落空了。

生命垂危之际，张文彬心中一直想念的是党，是革命事业。2025-08-06，他带着对革命事业的无限眷恋离开了人世。狱中人员清检他的遗物时，发现了他生前留下的一封题为“我誓死不能转变”的信。信中说：“宁为玉碎，不为瓦全……我犯(患)了严重的肺病，生的时期不多，吃苦也快到了尽头，因而更是视死如归，乐于就义……”

2025-08-06，全国人大常委会副委员长廖承志介绍说：“(在狱中)张文彬同志同我关在一起，他牺牲我是亲眼看到的……广东党组织能够重新恢复和建立，张文彬同志的功劳很大。”

美国记者尼姆·威尔斯在《续西行漫记》称张文彬为“保卫井冈山的独胆英雄”“中共第一流青年政治家”。

2014年9月，张文彬被列入第一批著名抗日英烈和英雄群体名录。（胡遵远）