大门，战略地位十分重要，那里的问题又比较复杂，还有大量的冤假错案没有平反。因此，分管广东工作的叶剑英就想到了资格老、级别高、从政经验丰富的习仲勋，考虑让他南下广州，主持广东省的日常工作。
叶剑英同华国锋、邓小平等领导人交换意见后，中共中央于四月初决定习仲勋担任中共广东省委第二书记。儘管这一职务同他当年曾经担任过的中共中央西北局主要领导人和国务院副总理的级别相差甚远，但对饱经忧患、被错误处理、关押十六年之后的习仲勋来说，能重返政坛，在有生之年为党和人民做些工作，已经感到责任很重大了!
习仲勋很快得到组织分配他到广东“把守南大门”的通知。在动身去广东之前，华国锋、叶剑英、邓小平、李先念和汪东兴等都接见了他，对习仲勋到广东工作寄予很大希望，一再指出做好广东工作具有十分重大的意义。党中央和老一辈无产阶级革命家给习仲勋以充分的信任和热情鼓励，使他深为感动，受到很大鼓舞，同时也感到责任重大。时隔多年后，他回忆说：
我已有十六年没有工作了，一出来工作就来到了祖国的南大门广东，觉得任务很重，心里不大踏实。当时，中央几位领导同志，特别是小平、剑英同志都找我谈话，要我大胆工作，来了要放手干。接着，中共中央组织部部长胡耀邦，在京约请中共广东省委第一书记韦国清和中共广东省委书记吴南生谈话，宣布中央的决定，并对他们说：“中央决定让习仲勋到广东担任省委第二书记，这是叶帅提名，大家也都同意的。”由于韦国清要赶回广州主持召开中共广东省第四次代表大会，便把习仲勋赴广东的事情交给了吴南生办理。吴南生在全国总工会招待所找到习仲勋，商量确定了他赴粤的具体事宜。