尔后，吴知武松商量了一下后，吴知出面向俘虏们训起话来，他说：“各位曾经的宋朝官兵们，现在你们应该感到庆幸，因为，你们还活着。就跟我们一样。我知道，在你们的队伍中，还有不少人是曾经在梁山当过兵的忠义之士，只因听信了宋头领，情非得已做了朝廷的人，但今天，宋头领他们已被无故害死，大宋奸臣当道，民不聊生，皇帝昏庸无能，治国无方，我们梁山再举忠义大旗，誓死反对大宋到底，有愿归顺梁山或重新回到梁山怀抱的，我们热烈欢迎，并将对他们与原梁山义军一样，一视同仁，对于那些不想入伙梁山的，我们既不会关，也不会杀，身上没盘缠的，我们还提供路费。只是希望你们回去后，不要再为奸人们卖命了，梁山的大门永远为你们敞开着，如果你们有一天想回来了，我们依然欢迎。大宋的江山并不一定非要姓赵，他也可以姓武，更可以姓李，总之，江山是我们百姓的江山，城市是我们百姓的城市，谁都可以在这块土地上幸福地生活，而不受欺压。请大家现在迅速作出选择，有想上梁山的，请站到我的左手边，不想上梁山的站到我的右手边。”
    吴知的长篇大论一讲完，迅速举起了双手。俘虏队伍立即有了变化，的确，里面有不少士兵就是曾经的梁山义军，他们这次来打梁山，心里并不好受，从而阳奉阴违，暗地里也影响了战事逞一边倒的状况。现在又有了重新回梁山的机会，他们当然义无反顾，很快站到了吴知的左手边。
    接着一些犹豫的人担心站错了队，会丢命，也磨磨蹭蹭站到了左边，本来有几百名宋兵中的小头目站到右边的，见左边的人数越来越多，也赶紧换了方位，向左边走去，出乎意料，除了一些受了腿脚伤，根本不能走动但举起左手表明归顺之心的人外，右边一个人都没有。
    吴知似乎早料到这种结局，很高兴地再次表示了欢迎，然后用缴获来的大船，将这些俘虏运回梁山了。
    几乎是一夜之间，梁山一千多义军，变成了现在的接近一万五千人。
    接下来便是整编工作，武松和吴知将新入伙的士兵用十人为一伍、百人为一队、千人为一营的方式进行了编伍。每一队的队头均为原梁山义军担任，一些重要岗位上的伍头也由原梁山义军担任，而营头则由各大头领兼任。
    比如武松虽然是大头领，但是也亲自带了两个营的兵士，合计二千人马。除了总管全山，他没事也要到营里去看看，督促新义军们从严训练，他所带的两个营，既被称作大头领营，又被称作一营二营，简称松字营。李逵分了两个营，被称作三营四营，或逵字营，吴知也分了两个营，因他是三头领，两个营又被唤作五营六营，或知字营。接下来，四头领燕青两个营，被唤作七营八营，或青字营。五头领混江龙李俊和七头领阮小七带领的四个营被合在一起训练，编号虽然是九营十营和十三营十四营，但他们这个营还有一个统一的称呼梁山水师，或俊七营。