他到处出卖自己的劳力，苦活累活抢着干，过着牛马式的生活，目的就是为攒钱办学。牲口做的苦力活，武训不以为苦，总是高兴得一边唱歌一边欣然乐为。
武训时常唱道：“扛活受人欺，不如讨饭随自己，别看我讨饭，早晚修个义学院。出粪，锄草，拉砘子来找，管黑不管了，不论钱多少。给我钱，我砘田，修个义学不费难。又当骡子又当牛，修个义学不犯愁。”
一年后武训辛苦积存的一点钱，却都被姐夫骗去了。他气得吃不下饭，口吐白沫，几天后心中释然的，说道：“只见好人盖高楼，没有恶霸行到头。”
为了筹钱，武训还把长辫子剃掉，只在两边额角各留一撮桃形的短毛，装扮成戏里的小丑模样，以获得别人的施舍。卖头发的钱成了他兴办义学的第一笔资金。
周围的许多人看他不回家，也没有固定职业，东西流浪，口口声声要办义学，嘲笑他害了“义学症”，他无动于衷，唱歌做答：“义学症，没火性，见了人，把礼敬，赏了钱，活了命，修个义学万年不能动。”
要饭时，遇到吝啬不给东西的人，他唱着：“不给俺，俺不怨，自有善人管俺饭。”
当遭遇声色俱厉的谩骂时，仍然温和以对，他唱道：“大爷大叔别生气，你几时不生气，俺几时就出去。”
武训把要来的钱都积攒起来，要来的干粮，好的完整的卖掉，换成钱攒起来。自己只吃粗劣、发霉的食物和菜根、地瓜蒂等，边吃边唱：“吃杂物，能当饭，省钱修个义学院。吃的好，不算好，修个义学才算好。”
武训一天到晚不停的工作着，没有休息的时间，他干别人不肯干，不屑干，或不会干的活。推磨都是牲口做的活，他常为人家干。碾米要在大太阳下工作，他汗流浃背的乐此不疲。每当农民农忙的时候，他常去打短工替人割麦子。此外，还替人家大清早打扫茅房，出粪晒干后做肥料。有时也帮人挑水浇园，挑粮食，挑笨重东西等，按照路程远近和重量计算报酬，收入可观。有时遇到个别不给钱的他也不去争。
他有时还象个江湖杂耍艺人一样到各处的庙会集市上耍把戏，以取赏钱。表演全身倒立“扛大鼎”，以手代脚做“蝎子爬”，翻身跳“打车轮”，趴在地上给孩子做马骑，还有锥刺身、刀破头等节目，甚至吃毛虫蛇蝎、吞石头瓦砾等等。
另外，他还为人做媒红，当邮差，拣收破烂，扎棉花，纺线等。武训就这样到处流浪，工作，要饭，漂泊。晚上就睡在人家的磨房，灶屋，或者是破庙里。每天深夜他还在如豆的灯光下搓捻线绳，绩麻缠线，边绩麻边唱道：“十线头，缠线蛋，一心修个义学院；缠线蛋，接线头，修个义学不犯愁。”
二十九岁的时候，武训用多年的积蓄，买了四十五亩便宜的低洼盐碱地并唱道：“只要该我义学发，买地不怕买碱沙；碱也退，沙也刮，三年以后无碱沙。只要该我义学发，要地不怕要大坑；水也流，土也壅，三年以后平了坑。”
三十八岁那年，山东遭遇大旱，饿死很多人。武训用自己的钱买了四十担高粱赈济百姓。武训的哥哥不务正业，常向他借钱，亲戚朋友也纷纷要求周 济，武训正色道：“不顾亲，不顾故，义学我修好几处。”
反而武训乡里一对孤寡的婆媳两人，靠要饭为生，武训慷慨的赠给她们十亩地，还说：“这人好，这人好，给她十亩还嫌少。这人孝，这人孝，给她十亩为养老。”
经过多年的辛劳，武训终于积少成多，存了一笔数目可观的钱。他打听到本县有一位举人杨树芳，为人正直，名声很好，值得信赖，想把钱存放在杨家，于是跑到杨府求见。由于他是乞丐，主人拒而不见，他便在大门口一跪就是两天，最后终于感动了杨举人。武训把乞讨积钱、兴义学之事原原本本叙述一遍，杨举人大为感叹，不但答应帮他存钱，并且表示要助他办学。
光绪十二年，武训49岁，已置田230亩，积资3800余吊，决定创建义学。第二年，两名开明地主仰慕武训的为人，联合捐出土地，做义学的基地。武训开始到各地购买砖瓦木料，自己押送。每天早起晚睡，和工人们在一起，搬砖打水，事事亲力亲为。
光绪十四年，花钱4000余吊，在柳林镇东门外建起第一所义学，取名“崇贤义塾”。武训用了整整三十年的时间来实现他的理想，在这三十年里，他受尽苦难，但始终坚定的一步步迈向目标。学校建成后，武训亲自跪请有学问的进士、举人任教，跪求杨树芳做学董，主持义塾，跪求贫寒人家送子上学。当年招生50余名，分蒙班和经班，不收学费。开学当天，准备了丰盛的筵席招待学董、老师和乡绅，武训自己却在外面向来宾磕头致谢，坚决不肯入席。宴会后吃些残羹冷炙而心满意足。
义塾成立后，武训实现了心愿，但依旧要饭为生，依旧住在破庙里面，学生们集体跪求他住来义塾，他也不肯，说：“我过的生活自己不觉的