彭德怀批准了黄克诚的请求，将黄克诚调到了军团司令部，让他当了一名秘书，主要督办前委党务方面的工作。
对自己先是被抓，然后又很快被放出来，黄克诚并没有仔细思考内中缘由，毕竟是战争年代，哪里有时间计较个人得失呢。
黄克诚毫不知晓是彭德怀在关键时刻救了他。彭德怀一向光明磊落、正直无私，因而也没有向黄克诚谈论此事。
这件不能称其为秘密的“秘密”，在两个人之间隐藏了二十余年。
直到1959年庐山会议，这件事以一种证明他们两人有“父子关系”的方式被披露出来，黄克诚才知晓此事。不过，那时他的第一反应不是对彭德怀救命之恩的感激，而是感到愤怒与受到侮辱。那些别有用心的人，将他与彭德怀之间纯洁的同志关系、革命友谊玷污了！
调到军团司令部不久，黄克诚便被派往寻乌调查肃反打“AB团”的情况。
寻乌，地处闽、粤、赣三省交界，是一个较为富庶的边贸小城。
毛泽东那篇著名的《寻乌调查》就是在这里完成的。寻乌可以算是老革命根据地了，土地斗争开展得较早，群众打土豪、分田地，革命热情也很高，因而群众基础好；再加上当地党组织工作扎实，群众对红军十分爱戴。凡有部队路过这里，老百姓不但热情欢迎，还拿出最好的东西招待红军。冬日的寻乌街头，冷冷清清。
黄克诚带领一个班的战士来到寻乌县城。
队伍走在街道上，很少见到行人。偶尔有人站在房檐下，但是看见黄克诚他们走来，便唯恐避之不及似的关上了房门，就连擦肩而过的行人也对他们十分冷淡。
原来，苏区各根据地都搞起了肃反运动，不少优秀的地方干部被肃掉了。
寻乌也不例外，这里打“AB团”闹得人心惶惶，很多人无辜受难，老百姓对此心中有气，十分不满，所以就对红军采取了这种消极冷淡的态度。
黄克诚了解到这些情况后，心情十分沉重。
回到军团部，他将在寻乌的所见所闻向军团前委一一作了汇报，说到动情处，他抑制不住内心的悲愤，对前委领导们说：“我们不能再搞自相残杀的蠢事情了！否则，我们将变成孤家寡人。”
黄克诚的这句话后来被应验了。他在回忆录中有这样一段发人深思的描述：主力红军长征之后，留在中央苏区的红军部队无法坚持，这除了敌人的“围剿”封锁之外，还与打“AB团”扩大化而脱离了苏区的人民群众有很大的关系。
以后陈毅同志曾对我讲起过，他说胡灿原来在兴国一带的人民群众中有很高的威信，肃反中胡灿被杀，当地群众无不病哭失声，他们对这种做法非常不满意。后来陈毅到了兴国，当地群众时他很冷淡，胡灿的母亲还当面质问陈毅：“我儿子究竟犯了什么罪？你们为什么要把他杀掉！”问得陈毅无法回答。
1931年下半年开始，中共中央开始发出了反对肃反中的“简单化”和“扩大化”的指示。
1931年12月，周恩来进入中央革命根据地，就任苏区中央局书记。在他亲自主持下，苏区中央局作出了《关于苏区肃反工作决议案》，使肃反扩大化的趋势一度有所抑制。就在这时，黄克诚再次被起用，被派往红三军团第一师担任政治委员。
黄克诚怀着平静的心情，走马上任了。
其实，在战争年代里，职务的大起大落是常有的事。不过，经过这一段波折，黄克诚更加坚信一点：不盲从，不苟同，无论身居高位还是身陷逆境，都应当一心为公，无私无畏。
转眼之间，1932年来到了。
1月初，远在上海的中共临时中央发来了《关于争取革命在一省或数省首先胜利的决议》，重弹李立三进攻中心城市、实行一省或数省首先胜利的老调，指示中央红军（即红一方面军）“急攻赣州”，继而夺取吉安、南昌。
毛泽东反对冒险打赣州。在苏区中央局会议上，他力陈攻打赣州之弊，指出敌强我弱，贸然攻坚，势必失败。
然而，此时的毛泽东已经受到排挤，他的正确意见被否定，主张攻打赣州的人占大多数。
1月10日，中央革命军事委员会下达了红军攻打赣州的军事训令。
为执行攻打赣州的作战任务，中央革命军事委员会组建了主作战军和支作战军。任命彭德怀为前敌总指挥。主作战军，由红三军团担任主攻，红四军负责打援：支作战军，由江西、闽西军区六个独立师组成，负责游击、警戒。另外，红三军、红十二军、红五军团和红十六军组成机动部队，随时待命。
赣州，江西第二大城市，赣南政治经济中心。
它正好处在章水与贡水的汇合点，三面环水，城墙坚固，易守难攻，因而素有“铁赣州”之称。
红军准备啃这块硬骨头了。
2月4日，红三军团抵达赣州城郊。在扫除了外围之敌后，红三军团分别进占赣州城东门外的天竺山、小南门外的白云山，首先控制了制高点，以为支撑。
随后，红三军团进行了攻城部署：红七军担负攻击东门的任务，红一师见《黄克诚回忆录》（上），解放军出版社，第139页。
攻打西城门。红二师攻击南城门，红三师越过章水，占领水西河背制高点，控制赣州城北门。另外，军团首长传下命令，红军从东门、西门、南门挖掘坑道，准备攻城。
赣州守敌是金汉鼎部第三十四旅，旅长马崑，全旅共三千多人，直属南昌行营指挥。早在红军攻打赣州之前，南昌行营就已经命令马崑积极搜刮粮食，屯积弹药，准备死守。
另外，赣州城还是赣南十七个县地主豪绅及其反动武装聚集之地。他们组成了十七县民团指挥部，人员五千多人，还屯积了大批武器、弹药。在赣州附近有蒋介石大部队集结随时可以增红军包围赣州后，守敌干脆拆毁了城外工事，撤兵进城，以便集中兵力，缩短战线，固守待援。
西城门外。
黄克诚与师长侯中英逼近西城门，然后就地设立了师指挥所。
茫茫暮色中，赣州城如同一个黑黝黝的庞然大物，张着血盆大口，时刻准备吞噬任何东西。
隐隐约约，一杆青天白日旗在城头随风飞舞。
黄克诚与候中英一起查看西门外地形。
赣州城墙高大坚固，足有六七米高；城墙之上筑有碉堡；环城壕沟，出击坑道密布交错，而且埋有听音缸，人一不小心踏上，便清脆作响；至于城墙大垛口上则遍布铁刺、木马、滚木黄克诚目睹此景，不禁倒吸一口冷气。
黄克诚本来就不赞成攻打中心城市的作法，因而反对这次打赣州的冒险行为。于是，他向彭德怀提议，不要冒险攻打赣州，应该围赣打援。
但是，彭德怀并没有接受他的建议。
如今，兵临城下，黄克诚实地查看了地形后，愈发觉得这场仗不能打：赣州城三面环水，一条赣江两条支流，章水自南流向北，贡水自东流向西，赣州城就在两水汇合的口子上，只有东南面是一片陆地，的确易守难攻；守城敌军早有准备，城上筑堡，城墙高大坚固，城下深沟犬牙交错，红军缺乏攻克城寨的装备，如果久攻不克，我军必将陷入师劳兵疲的被动地位。
所以，他坚信毛泽东在领导红军粉碎敌人一、二、三次“围剿”的斗争中提出的诱敌深入、集中优势兵力各个歼灭敌人等作战方针是正确的，从作战全局出发，他主张红军应该放弃围打赣州的企图，以免遭受不必要的损失。
但是，他的这一建议并未被采纳，他只好服从命令，率部投入攻打赣州城的战斗。
遵照军团首长的命令，黄克诚在抓紧进行政治动员的同时，和师长侯中英一起进行了战斗编组，组成了爆彼队、冲锋队、政治侦察队。
爆破队由二十名战士组成，担负挖坑道，选爆点，安装炸药、爆破城墙的任务。
冲锋队由七十名作的勇敢、身强力壮的战士组成，全副武装，在爆破成功后，他们负责突击入城。
政治侦察队虽然人员少，只有十二人，但任务艰巨，他们随突击队人城后，将负责侦破敌人的反动团体和特务组织，确保入城后指挥机关和部队的安全。
一切布置就绪，攻城战斗开始了。
爆破队冒着敌人的密集炮火，在狭窄的作业面上，三人一组轮番昼夜操作，一口气将坑道挖到了赣州城下。
2月中旬，红三军团组织红七军和红二师先后实施爆破攻城。红七军一度炸开了东门月城的城门洞，但敌人火力封锁严密，两支主攻部队均突击受挫。
这时，苏区中央局和红军总政治部发出了《关于赣州工作给三军团政治部的指示信》，力促三军团抓紧攻城。
2月23日，红三军团发动了第一次总攻。
上午九时许，主攻南门的红二师组织突击队，由第五团团长叶长庚指挥，预先埋伏在城墙下，准备伺机出击。
爆破队点燃了埋好的炸药，只听“轰然”一声巨响，气浪将砖石泥土掀起足有一百米高。但是，意外变故发生了：城墙猛然向外倒塌了，二百多人的突击队被压在了城墙下，全部遇难！
城墙被炸开了一道口子，然而红军一时派不出队伍。等到重新组织后续部队攻城时，敌人已经作了兵力调整，突破口处加强了守备力量，因而红军战机已失，进攻受挫。主攻东门的红七军，一度爆破成功，突入城门，攻上了城楼，与敌人展开激烈争夺战。但在敌人的疯狂反扑下，激战四小时，红军大部壮烈牺牲，被迫撤回阵地。
黄克诚所率领的红一师也是曾经炸塌了西门月城的城墙，突入城内，与敌激战一小时后，在敌人的强大火力面前，无功而返。
总攻受挫当晚，彭德怀立即致电中央革命军事委员会：攻城希望很小。
攻城接连受挫，黄克诚再次向军团首长提出了撤围赣州的建议，指出屯兵坚城之下，不宜再度围攻，否则伤亡会越来越大，但他的建议未获批准。
这时，为缓解赣州之围，蒋介石命令陈诚率其精锐第十一师、十四师约两万人增援赣州。
赣州守敌也连夜备战，在东门突破口处将城内整条铁匠街拆毁，强迫城内居民用沙包修筑起第二道街垒。
正在组织攻城作战的黄克诚接到消息：增援之敌罗卓英第十一师已经占领赣州西南的杨梅渡、南桥，准备在赣州城北门外架设浮桥，进入城内。军团首长命令红一师派兵阻击。北城门外，一场渡江与反渡江的战斗打响了。
红一师为阻止敌人架设浮桥，集中火力以吸引敌军注意力，同时，派出“炸桥队”，用“火般”去焚烧敌人的浮桥和渡船。炸桥队员们驾驶小木船直冲敌阵，临近敌人浮桥、渡船时，队员们迅速点燃小木船，纵身跳迸江水，小木船乘势冲向敌阵敌人的火力太强大了，炸桥队员们往往来不及点燃小船，就纷纷中弹，跌落水中，鲜血染红了江水。
即使“火船”漂过来，敌人也会划开渡船，让过去。因而，红一师阻击井未成功，增援之敌仍然顺利渡江，潜入赣州城。
敌人另一支援军正向红军侧后包抄而来。
黄克诚顿感形势严峻，增援之敌正形成对红军分割包围之态势！
黄克诚又一次向彭德怀提出了撤围建议，甚至指责彭德怀，说他是“半立三路线”，但彭德怀依然置之不理。3月1日，中革军委总部移至赣州前线，直接指挥作战，并发出了《关于坚决夺取赣州乘胜消灭来援之敌的训令》。
4日，红军总政治部发布《告红军战士书》，号召红军“下大决心进行持久战争拿下赣州”。
接着，第二次总攻开始了。
在敌人强大而密集的火力下，红军付出较大伤亡之后，被迫后撤。
3月7日凌晨。红一师指挥所。夜色朦胧，晨星闪烁。黄克诚辗转反侧，一点也睡不着，于是索性披衣坐了起来。黄克诚有个习惯，一到仗打得不顺的时候，就睡不着觉，心里总放心不下。特别是这些天来，红军攻城屡次受挫，伤亡日多，敌人援兵又有对红军分割包围之企图，黄克诚有一种不祥的预感：此次部队要遭受大的损失。因而，几天来他夜里睡觉都不安稳，时刻提防有什么险情出现，以便及时采取应变措施。突然间，枪声大作，撕裂夜空。
敌人乘夜出击了！黄克诚心里骤然一惊。连日来的围攻，使大家对敌人稍有松懈，哪里会想到敌人敢在夜里出击。黄克诚暗叫不好，赶紧去唤醒旁边的候中英：“喂，醒一醒！敌人好像向我们进攻了，快起来！”
候中英刚刚睡醒，还有点搞不清发生了什么事。黄克诚一把将他拖了起来。
枪声更加密集。
候中英这才被惊醒，急急忙忙跑出师部，去指挥部队应战。黄克诚待侯中英走后，稍加思索，立即命令通讯班转移，在另外一个比较隐蔽的地方架线，设立新的师指挥所。电线刚架好，黄克诚一把抓住电话筒，向军团部报告情况，并且建议：“情况十分紧急，应当下令立即撤退突围。”话筒那边立刻传来了邓萍参谋长的命令：“不准撤退！”黄克诚心中十分焦急，放眼望去，四周漆黑一片，枪声却越来越近了。
黄克诚判定红一师已经被敌人切割开来，处在十分危险的境地。
于是，他不顾上级不准撤退的命令，断然采取机动措施：命令师直属部队后撤南门外，同时派人通知特务连做好一切应急准备。
黄克诚随即带领通讯班离开临时指挥所，摸黑前进，寻找红一师的队伍。
行至中途，一个连政委率部慌慌张张跑了过来。“政委，敌人太多了，我们已经不行了。”那个连政委面露仓惶之色，向黄克诚报告。
黄克诚看到他这副样子，忍不住心头火起，严厉地训斥了他一顿。
“就地抵抗，掩护指挥机关先撤！”黄克诚最后下令道。那个连政委这才收敛了惊慌失措之色，带领队伍就地展开，阻击敌人。
后来，黄克诚得知，那个连政委表现英勇，率领全连奋力阻击蜂拥而来的敌人，最后全连干部战士壮烈牺牲。
又摸索向前走了一段路后，黄克诚碰见了军团所属特务团的一个营。简短交谈过后，黄克诚才知道他们原本负责红二师与红三师之间的联络，一直守护在这里。黄克诚告诉营长姚喆，赶快后退，要不然只有白白送死。
姚喆面露难色：“我们没有接到军团部撤退命令，如果……”黄克诚断然应道：“你赶快带部队撤退，一切后果由我负责！”姚喆这才带领队伍撤退。
天色正黑，黄克诚带领通讯班径直前行，寻找被打散的部队。
这时，他们早已搞不清方向。走着走着，一个战士眼尖，看见前面是一大片开阔地，隐约间有灯光闪烁，还有几个奇形怪状的东西。
他把情况告诉了黄克诚。黄克诚手扶眼镜框，仔细一看，原来是敌人的飞机场！
黄克诚这才知道，他们误人了南门外敌人的飞机场，那几个奇形怪状的东西是飞机。
他刚想带领大家后撤，机场守敌已经发现了他们，大声喝问：“哪一部分？”
“是一师的。”黄克诚不及思索，随口应道。
敌人误以为黄克诚他们是“十一师”的兄弟，也不再追问了。
黄克诚趁机率领通讯班穿越机场，来到了南门外。恰巧，侯中英师长也在这里，正在指挥一师队伍后撤。看到红一师大部平安撤退，黄克诚稍感放心。但是，其他兄弟部队不知道现在怎么样了？他叫