在《水浒传》中写到“贫道复姓公孙，单讳一个胜字，道号一清先生。小道是蓟州人氏，自幼乡中好习枪棒，学成武艺多般，人但呼为公孙胜大郎。因学得一家道术，亦能呼风唤雨，腾云驾雾，江湖上都称贫道做入云龙。”
入云龙公孙胜有着道家变幻莫测的法术：石碣村战役，以长风火破官船拔得头筹；进军高唐州，斗法破高廉妖术大捷；芒砀山一战，以道术降服三大将，为梁山立下汗马功劳；他尊师重道，嫉恶如仇，淡薄世俗名利。宋江相邀助破高廉既是愤愤难平，也终听师命调遣。平定淮西之后，谨从师命“逢幽而止，遇汴而还“的嘱咐，功成身退，放弃荣华富贵，归隐山野。
自宋江入梁山以来，吴用逐渐加入宋江阵营，而公孙胜却云游四海。当年入云龙策划智取生辰纲，拉晁盖入伙，而非宋江，可能公孙胜早已看出宋江的虚伪，伪君子真小人，不然当时就是以宋江直接为头领，率众起事。当宋江坐上一把手后，公孙胜也就云游四方，遇到一些困难宋江再把公孙胜找回，等困难解决，再继续自己的闲逸生活。
公孙胜看出宋江并非与晁天王一样的重情重义，之后看见宋江逐渐掌控大权，心灰意冷，离开了水泊梁山。公孙胜上知天文下知地理，天机不可泄露，自淮西平定后，梁山好汉便走下坡路了，也就彻底地与梁山众兄弟断了联系，自己安心的出家归隐，不问世事。
公孙胜是第一个看清世态炎凉，接着方腊一战后，众兄弟也心知肚明，有些远离朝廷，有些去找公孙胜归隐于山野之中，有些看破红尘出家了。
公孙胜看破宋江的权衡之术，无可奈何，梁山已无当初起事之心，便以思念母亲，淡泊名利为由，离开水泊梁山。看破世态人情，名利权计，适合过归隐山林，云游四海，闲云野鹤的生活。