在押往大都的路上，文天祥严词拒绝了元军的劝降。从此，文天祥在监狱中度过了3年。在狱中，他曾收到女儿柳娘的来信，得知妻子和两个女儿都在宫中为奴，过着囚徒般的生活。
文天祥深知女儿的来信是元廷的暗示：只要投降，家人即可团聚。然而，文天祥尽管心如刀割，却不愿因妻子和女儿而丧失气节。狱中的生活很苦，可是文天祥强忍痛苦，写出了不少诗篇。《指南后录》第三卷、《正气歌》等气壮山河的不朽名作都是在狱中写出的。一日，忽必烈亲自劝降，说：“现在你如能用对待宋朝那样对我，立即任你为丞相”。文天祥虽被卫士用金棍击伤膝骨，仍泰然处之，
昂首挺立，答曰：“一死之外，无可为者。”忽必烈十分气恼，于是下令立即处死文天祥。次日，文天祥被押解到刑场。监斩官问：“丞相还有甚么话要说?回奏还能免死。”文天祥喝道：“死就死，还有甚么可说的?”他问监斩官：“哪边是南方?”有人给他指了方向，文天祥向南方跪拜，说：“我的事情完结了，心中无愧了!”于是引颈就刑，从容就义。死后在他的口袋中发现一首诗：“孔曰成仁，孟曰取义，唯其义尽，所以仁至。读圣贤书，所学何事?而今而后，庶几无愧。”文天祥死时年仅47岁。
文天祥前期的诗文多酬应之作，比较好的诗也只表现了隐逸的志趣，或带有感伤哀愁的情绪。赣州起兵以后，风格为之一变，诗词散文都悲壮刚劲，感人至深。文天祥把国家、人民和自己的遭遇，用诗词逐事记录，并且把从镇江逃出元营后的记事诗，编成《指南录》;又将被俘以后所作，编为《指南后录》;在狱中又集杜甫诗句，成《集杜诗》200首，历述“颠沛以来”的“世变人事”，抒发自己的亡国之痛。他的《正气歌》，历数史书所传各代不畏强暴、不惜牺牲的人物，表示自己准备随时献出生命的决心，尤为数百年来传诵不绝之作。
