1939 年6 月，皖东北已进入盛夏，年轻的江上青意气风发，带领政工干部张远及4 名警卫员来到灵璧县北部协调各部队的关系。完成任务后，他们乘小船返回皖六区专署，途经睢宁县李集南八里孜渡口时，一队人马突然出现在他们的面前，强行拦截他们。这队人马是国民党苏北游击纵队司令李箐臣的部下，领头的是大队长朱士林。随后双方发生激战，江上青等人被捕。
朱士林原是泗县北的土匪，皖东北第五游击纵队一部在剿匪时，曾烧过他家的房子，杀了他的一个远房弟弟。对此，朱士林一直怀恨在心。当他得知江上青是第五游击纵队政治部主任时，以为复仇的机会到了，遂命令部下将江上青等人抓捕，拉出枪毙。江上青知道朱家的事，但他还是想以理服人，他对朱士林说：“以前的事已经过去，如今大敌当前，我们应该一致对外，抗击日军才是。”就在这时，苏北游击纵队司令李箐臣赶来了。李箐臣早年留学法国，具有爱国思想，大敌当前，他知道识大体顾大局，当他听到枪声和手榴弹的爆炸声时，不知发生了什么事情，立即带着卫士排顺着爆炸声响的方向飞马赶到现场。他看到被抓捕的是皖六区专员盛子瑾的秘书、第五游击纵队政治部主任江上青时，对朱士林的做法非常恼火。他对朱士林说明利害，并下令将江上青等人松绑，交还武器。李箐臣上前紧握江上青的手，表示歉意。江上青也向李箐臣表示感谢。
江上青逃过这一劫，谁知两个月后又遇袭击。
8 月29 日，江上青陪同盛子瑾到灵璧县城北张大路与国民党顽固派代表人物许志远谈判，谈判一直持续到傍晚。在返回途中，江上青与朱伯庸率领特务大队的一个连从原路返回，江上青骑马奔走在队伍前面，途经泗县小湾子村时，遭到一群反动地主武装的伏击。江上青身材高大，戴着眼睛，被误认作盛子瑾，一阵排枪直射过来，江上青与朱伯庸等人应声落马。走在后面的盛子瑾听到前面的枪声，立即钻进附近的树丛。驻扎在附近的八路军苏鲁豫支队胡炳云、田维扬大队闻枪声赶到时，28 岁的江上青已经停止了呼吸。
江上青原名江世侯，1911年4月10 日出生于扬州。江上青之名出于唐代诗人钱起的一句诗“曲终人不见，江上数峰青”。1927 年，他考入南通中学高中部，读书期间，结识了顾民元、刘瑞龙，因此加入了共产主义青年团，走上了革命道路。后入上海艺术大学文学系学习，在上海艺大，江上青由共青团转为中共正式党员，不久担任艺大党支部书记。1931年九一八事变后，江上青在党组织安排下来到暨南大学社会学系读书，在这里，他继续开展学运工作，第二年回扬州创办《新世纪》周刊。1933年，江上青在仪征十二圩中学教书，在学生中传播马克思主义，很多学生在他的影响下走上了革命道路。1938 年5 月，江上青带领“江都文化界救亡协会宣传团”到安徽六安，与中共安徽省工委接上了关系。同年11 月，中共安徽省工委宣传部长张劲夫代表省工委在金家寨约见江上青，宣布任命他为中共皖东北特别支部书记。江上青深知敌后形势复杂，环境险恶，临行前作了一副“自祭”联：“拼将瘦骨埋锋镝，常使英雄祭血衣”。随后，带领部分特支成员来到皖东北，做国民党安徽省第六行政区督察专员、第五游击纵队司令盛子瑾的统战工作，并开辟、创建皖东北抗日根据地。当时，江上青的公开身份是国民党安徽省第六行政区专员公署专员秘书兼保安副司令、第五游击纵队政治部主任。秘密身份是中共在盛子瑾部建立的特别支部书记。
江上青牺牲后，泗洪县宋庄（现孙元乡）为他举行了追悼大会。抗战演剧六队唱了一曲挽歌《殒星》，歌词是：“秋风里，殒落一颗大星，殒落一颗大星。你去了，带着音响，划过长空。在封建余孽手里，溅了你的热血，让几十里的弱流，亲吻你的尸身，无限的哀痛，刻上我们的灵魂。死者啊，你的生花梦笔的江淹，你是朗朗照人的玉山，你是铁腕斗胆的股肱，打开皖东北的今天。死者啊，愿你手持巨灯，照着我们前行。抹干泉涌的眼泪，掀起倒海的飓风。”江上青的妻子王者兰也赋诗一首《七律·悼江上青》：“噩耗传来处处惊，才华未展恨难平。十年壮志山河动，一片丹心日月明。誓抚遗孤承素志，尽除奸慝报深情。黄沙血染英雄骨，碑碣永留万古名。”
江上青被安葬在泗洪县崔集。