唐宪宗元和十一年（816），白居易被贬为江州司马的第二年秋天，结束了一天的游玩和宴饮之后，第二日还要上班，白居易和朋友不敢耽误，在江边告别。不过这一天玩得似乎并不尽兴，但还有工作在身，只好就此作别。
正在此时，忽然听到江上传来琵琶声，对于精通音律的白居易来说，真是难得的好声音，仔细听听，这琵琶声很有京城长安的风范。于是白居易和友人赶忙派人寻找琵琶声是从哪里传出来的。
找到弹琵琶的人后，又把船里的灯火重新点燃，再次把酒杯里的酒倒满。他们都迫不及待地想听琵琶女好好弹上一段曲子。
一阵等待之后，琵琶女才姗姗来迟，一曲过后，白居易深受她的曲子的感染。琵琶女讲述自己的人生经历，白居易听后不禁叹息，联想自己的遭遇忽然想为琵琶女写一首诗。于是，便有了这首千古第一音乐诗的《琵琶行》，白居易还在诗歌前，写下了一段序，交代了作此歌行的原因。
琵琶行并序
元和十年，予左迁九江郡司马。明年秋，送客湓浦口，闻舟中夜弹琵琶者，听其间，铮铮然有京都声。问其人，本长安倡女，尝学琵琶于穆、曹二善才，年长色衰，委身为贾人妇。遂命酒，使快弹数曲。曲罢悯然，自叙少小时欢乐事，今漂沦憔悴，转徙于江湖间。予出官二年，恬然自安，感斯人言，是夕始觉有迁谪意。因为长句，歌以赠之，凡六百一十六言，命曰《琵琶行》。
浔阳江头夜送客，枫叶狄花秋瑟瑟。
主人下马客在船，举酒欲饮无管弦。
醉不成欢惨将别，别时茫茫江浸月。
忽闻水上琵琶声，主人忘归客不发。
寻声暗问弹者谁，琵琶声停欲语迟。
移船相近邀相见，添酒回灯重开宴。
千呼万唤始出来，犹抱琵琶半遮面。
转轴拨弦三两声，未成曲调先有情。
弦弦掩抑声声思，似诉平生不得志。
低眉信手续续弹，说尽心中无限事。
轻拢慢捻抹复挑，初为《霓裳》后《六幺》。
大弦嘈嘈如急雨，小弦切切如私语。
嘈嘈切切错杂弹，大珠小珠落玉盘。
间关莺语花底滑，幽咽泉流冰下难。
冰泉冷涩弦凝绝，凝绝不通声渐歇。
别有幽愁暗恨生，此时无声胜有声。
银瓶乍破水浆迸，铁骑突出刀枪鸣。
曲终收拨当心画，四弦一声如裂帛。
东船西舫悄无言，唯见江心秋月白。
沉吟放拨插弦中，整顿衣裳起敛容。
自言本是京城女，家在虾蟆陵下住。
十三学得琵琶成，名属教坊第一部。
曲罢曾教善才服，妆成每被秋娘妒。
五陵年少争缠头，一曲红绡不知数。
钿头银篦击节碎，血色罗裙翻酒污。
今年欢笑复明年，秋月春风等闲度。
弟走从军阿姨死，暮去朝来颜色故。
门前冷落鞍马稀，老大嫁作商人妇。
商人重利轻别离，前月浮梁买茶去。
去来江口守空船，绕船月明江水寒。
夜深忽梦少年事，梦啼妆泪红阑干。
我闻琵琶已叹息，又闻此语重唧唧。
同是天涯沦落人，相逢何必曾相识！
我从去年辞帝京，谪居卧病浔阳城。
浔阳地僻无音乐，终岁不闻丝竹声。
住近湓江地低湿，黄芦苦竹绕宅生。
其间旦暮闻何物，杜鹃啼血猿哀鸣。
春江花朝秋月夜，往往举酒还独倾。
岂无山歌与村笛，呕哑嘲哳难为听。
今夜闻君琵琶语，如听仙乐耳暂明。
莫辞更坐弹一曲，为君翻作琵琶作。
感我此言良久立，却坐促弦弦转急。
凄凄不似向前声，满座重闻皆掩泣。
座中泣下谁最多，江州司马青衫湿。
元和十年（815）宰相武元衡遇刺身亡，白居易上表主张严惩凶手，被认为是越职言事。后来又被人诽谤不尊重自己的母亲，综合以上原因，将白居易贬出京师长安到江州（今江西省九江市）做江州司马。
白居易在《琵琶行并序》中说自己谪迁江州两年，听了琵琶女的弹奏才发觉自己是被贬了，听起来像是可爱的后知后觉，其实只是文人的“狡狯”罢了，白居易从被江州的第一天开始心情就是低落而又愤懑的，只是借由这个机会说出此番话语而已。
被贬江州对白居易的人生来说具有非常重大的意义，从此以后，他心中“兼济天下”的想法渐渐衰弱，而“独善其身”的想法日益强大起来。白居易在江州的四年时光里，文化娱乐活动非常丰富，作诗饮酒、弹琴下棋、呼朋引伴、寻访名胜、交友唱和等等，文人雅士的爱好全都排上日程，这一阶段白居易写作了许多诗歌，被统称为“江州诗歌”。因为他不断追求心灵自由和身心愉悦，对日常生活的关注增加，使得他在这个阶段诗歌创作题材更加丰富，诗歌更具真情，从而获得了更高的艺术成就。《琵琶行》就是白居易江州诗歌的最佳代表，它是中年白居易的经典作品，也是白居易一生中最为重要的代表作。《琵琶行》与《长恨歌》这两座高峰，足以让白居易在中国古代文学历上名垂青史。
《琵琶行》的开端先描写了秋夜送友人离去的场景，枫叶狄花凸显出秋天的萧索。与友人的宴会似乎意犹未尽，告别之时，偶然听到动听的琵琶声，将这次宴会又延长了一段时间。白居易正因为宴会上没有好听的音乐而感到遗憾，此时立刻邀请琵琶女为大家弹奏一曲。
白居易在初听到琵琶女弹奏时，就听出了其中带有京城演奏的风格，果不其然，琵琶女真的是从京城沦落至此，从这里就能看出白居易在音乐领域的深厚造诣。诗中还有一段描写琵琶女演奏的部分，“轻拢慢捻抹复挑，初为《霓裳》后《六幺》”，这里表现出白居易对琵琶演奏十分精通，非常懂得欣赏琵琶演奏的技法。
琵琶女开始阶段的弹奏完全是因为胜情难却，“转轴拨弦三两声，未成曲调先有情”，但情感逐渐激荡，曲调激昂起来，“银瓶乍破水浆迸，铁骑突出刀枪鸣”。琵琶女本身就是一位技艺超群的演奏者，她的情感与乐曲能够形成一种交融的状态，而白居易也是一位了精通音乐的人，他也能感受到琵琶女演奏中真诚的情感表达。
于是，在琵琶女演奏结束后，白居易才非常耐心地倾听琵琶女讲述自己的经历。她本是京城一位出色的倡女，技艺高超，容貌娇好，有许多富家子弟不惜重金追求她。年复一年，时光流走，她的容颜老去，只好嫁给一位商人。然而商人并不重视她，自己去浮梁（江西省景德镇市下辖县）做茶叶生意，将她独自一人留在船上。
白居易听了琵琶女的遭遇后，忽然与自己的经历联系在一起，发自肺腑地说出了“同是天涯沦落人，相逢何必曾相识”的感叹。有学者曾经有过这样的猜测，也许本不存在琵琶女这个人，这一切都是白居易想要表达自己心中的忧愁和落寞，虚构出这样一个人物出来，他由感而发，再写出这篇文章。不管怎样，白居易都为当时和后世写作出一篇值得反复玩味欣赏的佳作。
白居易听完琵琶女的诉说后，也说出自己被贬这一年多的时间里所遭遇的一切。在浔阳这个相对偏僻的地方，生活缺少好听的音乐，环境湿热，住宅周围长着茂盛的黄芦苦竹，最可怜的是“春江花朝秋月夜，往往举酒还独倾”，这些诗句让白居易从繁华的京城来到偏远的小城市的苦闷跃然纸上。最后诗人听完琵琶女扣人心弦的演奏，不禁青衫尽湿，这种结尾显得又情真意切，又散发着浪漫的情趣。
这篇诗歌将一位官场失意的知识分子与社会底层的琵琶女的遭遇联系在一起，相互映衬，描写生动仔细，并对琵琶女寄予无限的同情，这在以前的诗歌中是非常罕见的，这也是《琵琶行》的一种进步之处。