子全烧了，地上全是尸体，就算有活下来的人，也饿得没人样了。
换作一般人，看到这景象，早就打退堂鼓了：“这破城，守个屁啊！”可刘琨不是一般人。他站在塌了的城墙上，对跟着他来的一千多个士兵说：“各位兄弟，咱们来这儿，不是为了当官发财，是为了守住咱们汉人的土地。这城是破，可只要咱们在，这城就不能丢，我们汉人的精气就还在！”
说完，他第一个跳下马，拿起铁锹，开始修城墙。士兵们见主将都这么拼，也没人抱怨了，跟着一起干。白天，他们修城墙、清理尸体、掩埋骸骨——刘琨还专门让人举行了祭祀仪式，祭奠死去的百姓和士兵，安抚人心；晚上，他们还要防备胡人的偷袭，有时候胡人趁着夜色来骚扰，刘琨就带着士兵们打游击，有时候一晚上要打两三仗，连睡觉的时间都没有。
光有城墙还不行，得有人啊！晋阳城里的百姓早就跑光了，刘琨就派人出去，到周边的山区、乡下找逃难的流民，跟他们说：“晋阳现在在修城，有饭吃，有兵保护，希望大家能回来！”刚开始，流民们都不信——这乱世里，谁还敢相信当官的？有的流民甚至说：“之前的刺史跑了，匈奴人杀了我们的家人，我们再也不回城了！”
可刘琨说到做到。他把自己带来的粮食拿出来，分给流民吃，哪怕自己和士兵们只能吃野菜、喝稀粥；他还让士兵们帮流民盖房子、开垦荒地，因为晋阳附近有汾水，他就组织人修水渠，引汾水灌溉农田；有流民生病了，他亲自去探望，让军医给看病抓药。有个老流民叫张老栓，带着一家五口逃到山里，快饿死了，被刘琨的人找到。刘琨亲自去看他，把自己身上的棉袄脱下来给张老栓披上，还让厨房煮了粥给他们喝。张老栓感动得哭了，说：“刘大人，您真是个好人！我们不跑了，就跟着您守晋阳！”
就这么着，越来越多的流民回到了晋阳。没几个月，晋阳就从一座死城，变成了有几千人居住、能防守的城池。刘琨又在城里办学校，教孩子们读书——他自己就是个文人，写得一手好诗，有时候还亲自去学校讲课，跟孩子们说：“就算在乱世里，也不能忘了咱们汉人的文化，不能忘了读书识字。”他还组织百姓练兵，男人们农闲时当兵，练习射箭、骑马；女人们纺线织布，供应军队的衣服。各位看官，您别小看这事儿，在乱世里，能让百姓有饭吃、有学上，还能有安全感，这本身就是件了不起的事——刘琨守的不只是一座城，更是一种希望。
可麻烦很快就来了。匈奴刘聪听说刘琨驻守在晋阳，立马派大将刘曜、刘粲率军来打。刘曜是刘聪的堂兄，是个猛将，手下有两万多精锐骑兵；刘粲是刘聪的儿子，也很会打仗。而刘琨手里的兵，大多是刚招募的流民，没怎么打过仗，跟匈奴的精锐骑兵比，简直没法比。
永嘉六年（公元312年）正月，匈奴兵把晋阳围了个水泄不通，天天用箭射城墙，还用撞车撞城门。刘琨站在城墙上，亲自指挥防守，城门快被撞破了，他就让人用沙袋、木头堵住，还亲自拿着大刀砍爬上来的匈奴兵。士兵们见主将这么勇敢，也都拼了命，用石头砸、用开水浇，硬是把匈奴兵挡了回去。
可匈奴兵没走，就在城外扎营，想把晋阳困死。晋阳城里的粮食很快就不够了，士兵们只能吃野菜、树皮，有的士兵饿得连弓都拉不动了；冬天来了，很多士兵还没棉衣，冻得瑟瑟发抖。刘琨知道，再这么耗下去，晋阳肯定守不住，他得想个办法。
有一天晚上，刘琨在城楼上巡查，听到城外的匈奴兵在唱歌，唱的是匈奴的民歌，听起来很凄凉。刘琨突然有了主意——匈奴兵远离家乡，肯定思乡，不如用音乐打动他们。他让人找来一个会吹胡笳的士兵，让他在城楼上吹《胡笳十八拍》。这《胡笳十八拍》本来是匈奴人的曲子，讲的是远离家乡的思乡之情，胡笳的声音又悲又怨，在夜里传得很远。
匈奴兵在城外听着，想起了自己的家乡、亲人，心里都不是滋味，有的士兵甚至哭了起来。刘琨又让人在城里点起好多火把，假装要偷袭匈奴营寨，还让士兵们大喊：“晋军来了！晋军来了！
