在周恩来教导下开展地下斗争

1938年底，因国民党整编32军干训团被解散，段伯宇想回华北参加抗战。1939年初，段伯宇辗转来到重庆，向八路军重庆办事处报到。组织上决定段伯宇留在重庆开展工作，公开职务是国民党战地党政委员会视察员，任务是调节国共纠纷，以利于团结抗战。段伯宇做了大量工作，为党组织收集了不少有价值的情报。

不久，周恩来接见了段伯宇。周恩来勉励他做好国民党上层的统战工作，通过他们影响和推动蒋介石抗日。周恩来语重心长地叮嘱段伯宇，充分利用在国民党任职的有利条件，团结进步势力，争取中间势力，反对反动派。在国民党统治区工作，工作方针就是在最不利的情况下，争取有利的可能，并尽力转变为现实。周恩来的教导，使段伯宇深受教育和感动。

1939年底，国民党顽固派反共活动不断扩大，不断制造军事摩擦。段伯宇参加了战地党政委员会组织的视察团，赴山东、河北等地，调查国共摩擦情况。段伯宇亲眼目睹了国民党顽固派一手挑起的反共摩擦，搜集了不少确凿证据。段伯宇的所做所为引发了国民党顽固分子的强烈不满。战地党政委员会新任秘书长斥责他“吃国民党的饭，为共产党说话”，并下令将他关了禁闭。

打入国民党“总统府军务局”

为便于在国民党军队开展工作，段伯宇于1943年10月考入国民党陆军大学。学习期间，他广泛联系爱国进步同学，为以后开展工作准备条件。1946年3月，蒋介石以校长名义到陆军大学主持毕业典礼，并召见了段伯宇。段伯宇毕业后，在弟弟段仲宇推荐下，被分配到“总统府军务局”第四科从事军事情报工作，很快在军务局站稳脚跟，先后任少将情报科长、高级参谋。