第二次合作，全面开战开启。为了开辟敌后根据地，延安方面调派了许多熟悉地方情况的老红军到老家开展抗日工作，孙义海就回到了自己的家乡涉县。在涉县工作了一年之后，随着敌后抗日武装的扩大，他又被调入八路军一二九师三八六旅。在此之前，孙义海不但是涉县县委副书记，还是涉县县大队队长和政委，一人三职。

离开县大队的时候，孙义海就将弟弟孙义成托付给两位继任者，希望他们能够照顾自己这个小弟。