林大春“使秦”途中,在咸阳晤会布攻使孔天胤,结为忘年之交。不久,与青州诸城人邱橓(时也官行人)一同出使,遍历关塞,过灵武,抵贺兰山,饱览西陲诸形胜,感慨边备之日弛。对“藩王金帛之饣鬼”,大春洁身自好,拒不接受。接着,林大春又出使泉南(今泉州)上清源,赐葬已故侍郎张岳,又拒不收受“故大臣家赠金”。皇命完毕,被封为迪功郎。
嘉靖三十五年(1556年)按例得选充台谏,任御史或给事中、谏议大夫等职。刚好这年为三年一次的考核各地官吏之岁,称“大计”。在这期间,有言官疏劾潮阳令,莆田人黄休泰。黄怀疑是林大春所为,即向同乡冢宰诋诽林大春。冢宰听信黄休泰的谗言,竟不选取林大春为台谏,仅授林大春为户部主事,使“京师哗然”。就在同日,冢宰因其他事获罪被逮,但林大春任职已定,遂与蒲州何东序、福建戴科、汝南赵贤共署郎事,专为尚书起草奏疏。当时,嘉靖故作“锐意政事”之态,经常半夜派遣中使下御札于各部,并要求立即回报。每遇这种情况,户部尚书方钝“辄秉烛趣骑”,传见林大春。林大春一到“即陈所见以复,无一不当上旨者”。为此,方钝对其十分敬重。
但是,林大春思亲心切,京居虽好,却常闷闷不乐,以至“谢病不接宾客”。方钝察知其情,特派大春护送25万帑金以饷辽东军队,让其乘隙归省。
第二年,林大春赴京复命,途中因病逗留了些时日。新任尚书怪林大春等使员迟迟未返户部任事,便上书弹劾。奏疏正盖章上封,恰好大春赶到,尚书大骇,遂把大春之名从奏疏上除去。大春极力替同舍郎数人辩解。尚书不听,于是几位同僚均被贬黜,只留林大春执掌部事。因其成绩显著,其父乃被诏封为承德郎。这年,张时到关西募兵,在汾水遇孔天胤。孔天胤思念林大春,赋诗寄赠,诗中有“清风作诵”句,把林大春比为周宣王的大臣尹吉甫,寄匡救时弊的重望。
林大春曾随众官员抵西苑直庐谒见严嵩,严嵩一见林大春即感叹地说:“古有名可得而闻,人不可得而见者,公之谓也。”把大春说成是如同古代的只能闻其名而不能见其面的贤士,这就使得同时前往谒见的十余人“相顾愕然”,以为林大春已认严嵩门生,但看大春的拜帖,落款却不称“门下”,唯具“户部主事”的官衔而已。有人为此发问,林大春解释说:汉代董仲舒拜见宰相,谒帖也只写“江都相仲舒”而已。众官员无不叹服。