汉明帝时，班超听说匈奴又联络了西域的几个国家，经常掠夺边界上的居民和牲口，气愤得再也坐不住了，说：“大丈夫应当像张骞那样到塞外去立功，怎么能老闷在书斋里写文章呢？”他把笔杆扔了，就投军(后人把文人从军叫做“投笔从戎”，“从戎”就是从军)去了。
班超的父亲名叫班彪。当年汉光武帝知道他有学问，就请他整理历史。班超的哥哥叫班固。汉明帝叫班固做兰台令史(汉宫藏书的地方叫兰台，兰台令史是在宫里校阅图书、治理文书的官，后来史官也叫兰台)，编写历史。以后班超也做了兰台令史。
公元７３年，执掌兵权的窦固派班超为使者，先去联络西域，斩断匈奴与西域的联系，再去对付匈奴。班超带着三十六个随从人员到了鄯（ｓｈàｎ）善。鄯善王归附了匈奴，但匈奴还是不断地向他勒索财物。这会儿汉朝派使者来了，他们殷勤接待。从张骞通西域以来，西域和汉朝不相往来又有６５年了。班超住了几天，匈奴的使者到了。鄯善王怕得罪匈奴，故意冷淡班超他们。
班超打听到匈奴的使者住地离这儿才三十里地，知道鄯善王又是恨他们，又是怕他们，正为难着。班超不让透露风声，就把随从他的人全召集在一块儿喝酒。
正喝得兴高采烈时，班超站起来，说：“你们跟我千辛万苦来到西域，想的就是为国立功。没想到匈奴的使者来了。要是鄯善王把咱们抓起来送给匈奴，咱们连尸骨都还不了乡了。”
班超又说：“如今只有一个办法，趁着黑夜去袭击匈奴使者住的帐篷。咱们杀了匈奴使者，鄯善王一定吓破苦胆，还能不归顺汉朝吗？”大伙全都赞成。
到了半夜里，班超率领的十个壮士拿着鼓躲在帐篷后面，二十人埋伏在帐篷里面，他带着六个人顺着风向放火。火一烧起来，十个人同时擂鼓呐喊，其余的大喊大叫，杀进帐篷里去。班超手起刀落，一下子砍死了三个匈奴兵。壮士们跟着班超杀了匈奴的使者和三十多个随从，把帐篷都烧了。班超他们回到营里，正好天亮。
鄯善王听到匈奴的使者给杀了，亲自来到班超的帐篷里，说今后一定听从汉天子的命令。班超安慰了他一番。鄯善王表示真心和好，就叫他儿子到洛阳去学习汉朝的文化。
班超回到洛阳，窦固向汉明帝奏明了班超的功劳。汉明帝派班超再去结交于阗。
班超带着原班人马到了于阗。于阗王早就听说班超厉害，出来接见。可他那儿还住着个匈奴派来的军官。于阗王左右为难，回到宫里，就把巫师请来求神问吉凶。
那个巫师向着匈奴，他装神弄鬼地对于阗王说：“你为什么要跟汉朝人来往？汉朝使者骑的那匹马，赶快拿来给我。”
于阗王就派人去向班超要马。班超对来取马的人说：“大王要我的马敬神，我怎么能不乐意呢？可不知道要的是哪一匹，请巫师自己来挑挑吧。”
取马的人回去一说，那个巫师真的来挑马了。班超立刻拔出宝剑把巫师杀了，然后提着巫师的脑袋去见于阗王，对他说：“这个人头跟匈奴使者的人头一个样。你跟汉朝和好，两国都有好处；你要是勾结匈奴侵犯汉朝，看看我们的宝剑吧。”
于阗王连连说：“愿意听汉天子的吩咐。”他派兵杀了匈奴的军官，也把儿子送到洛阳去学习。班超把带来的绸缎等送一份给于阗王和他手下的大官。这以后，西域龟兹（Qｉūｃí）(今新疆库车一带)、疏勒（今新疆喀什一带）等国也跟着和东汉交好了，恢复了张骞当年的局面。
公元７５年，汉明帝害病死了，太子即位，就是汉章帝。
班超接到了诏书，准备动身回汉。疏勒国的一个将军流着眼泪说：“汉朝扔了咱们，咱们用什么来抵挡匈奴呢！与其那时候死，不如今儿就死了吧！”说着就自杀了。
班超经过于阗，于阗王和大臣们抱住班超的马腿不放。班超只好上书给汉章帝：西域各国如果失去了依靠，只好去投靠匈奴，再来侵犯中原。汉章帝看了奏章，就让班超继续留在西域。汉章帝病死后，太子即位，就是汉和帝。
后来，汉和帝派中朗将任尚为西域都护去接替班超。公元１０２年８月，七十一岁的班超回到洛阳，９月里病故。