就在这样的局势下，杨林偶然遇到了回乡探母的公孙胜。公孙胜本就是梁山的重要人物，他见杨林虽是绿林出身，却有着别样的豪爽与正直，且身手不凡，便与他攀谈起来。
公孙胜笑着拱手道：“这位兄弟，看你气宇不凡，想必也是江湖中一位豪杰呀，不知如何称呼？”
杨林回礼后说道：“在下杨林，不过是这绿林中的一个小人物罢了，兄长高人风范，倒让我有些好奇了，还未请教尊姓大名呢。”
公孙胜哈哈一笑，说道：“我乃公孙胜，今日有幸与兄弟相遇，实乃缘分啊。我观兄弟身手矫健，这一身本领在这乱世之中，应当有更大的作为才是。”
杨林好奇地问道：“哦？公孙兄这话怎讲？”
公孙胜便详细说起了梁山泊正在广纳贤才，意图联合各路英雄好汉，反抗这腐朽的官府，为百姓谋福祉，干一番大事业。
公孙胜热情地写下一封荐书递给杨林，介绍道：“兄弟，如今这世道，梁山正是能让你大展身手的地方，拿着这荐书，到了梁山自会有人接纳你。我还得跟你提一下，那戴宗兄弟可有日行八百里的本事，厉害着呢，你去了定能与他结交一番。”
杨林接过荐书，心中虽有些意动，可一想到梁山那都是些大名鼎鼎的英雄豪杰，自己出身低微，又担心梁山的好汉们瞧不上自己，便暂且把这事搁下了，对公孙胜说道：“公孙兄好意我心领了，只是我这般出身，怕去了梁山也是给各位好汉添麻烦，此事还是容我再思量思量吧。”
公孙胜拍了拍他的肩膀，说道：“兄弟莫要妄自菲薄，梁山好汉看重的是义气与本领，你且放心便是。”说罢，两人便就此别过。
过了些时日，戴宗出来寻访公孙胜，路过沂水县附近时，杨林一眼就认出了他。
那时的戴宗，身负梁山的重要使命，行色匆匆，但杨林还是赶忙上前招呼，自报家门后，两人一聊，发现格外投缘，当下就结拜为兄弟，决定一同前往蓟州寻找公孙胜。