至元十四年（1277年），元军凯旋，张弘范也加官进爵，被授予镇国上将军的军阶，任命为江东道宣慰使。这时张弘范四十一岁，已经是武职官员中从二品大员了。
至元十五年（1278年）四月，文天祥、张世杰等拥立的小皇帝赵罡，被迫逃到广州，病死于硐州岛上（今广东雷州湾上一岛）。为了坚持斗争，他们又拥立广王赵硐于广东新会海中厘山。改元祥兴。
至元十六年（1279年）正月，元组织了水军，大举进攻崖山。文天祥以战俘的身份也被软禁在元军船上，途中文天祥作《过零丁洋》一诗。恰巧张弘范来要文天祥他给张世杰写一封劝降信，他就顺手写出上边这首诗，交给张弘范算是答复。张弘范读罢，
除对他的遭遇同情外，心中肃然起敬。张弘范与文天祥在政治上虽然是对立的，但他对文天祥的人格则是崇敬和钦佩的。当部下劝告他：“敌国的丞相，居心叵测，不可亲近。”时，张弘范笑着说：“他是个忠义至性的男儿，决不会有其他。”
二月，张弘范统率的元朝水军抵达崖山后，曾派张世杰的外甥韩某，三次去张世杰军中劝降，张世杰严辞拒绝了诱降。张弘范做了四面包围的严密部署，发动了总攻。他目的在消灭宋军的有生力量，要一举歼灭，不使其再散逸。二月初六日晨，用炮石、火箭作掩护，插入宋舰队主力所在。元军跳上宋船后，短兵相战，发挥北军之所长，宋方溃不成军。张世杰冲出重围，准备招集旧部；找寻赵宗室后裔再图恢复。元军李恒的舰队追至大洋，没有追赶上。不幸遇大风浪，船翻之后全船的人都淹死在平章山下。
晚年逝世
至元十七年（1280年）年后，张弘范的病转重了。他自己也意识到病不会好了，要求从病房回到自己的旧居室，把亲戚宾客们召集来，和他们一一告别。同年十月，他叫人把南征时忽必烈赐给他的尚方宝剑与铠甲取出来，握着儿子张珪的手，珍重地交付给他。并且说：“我当年用这剑与甲为国家的统一立过功劳，你佩带宝剑、穿戴盔甲时，不要忘记了父亲的功劳！”说完就端坐而逝了，享年四十三岁。元廷赠银青荣禄大夫、平章政事，追谥武烈。
至大四年（1311年），加赠推忠效节翊运功臣、太师、开府仪同三司、上柱国、齐国公，改谥忠武。延祐六年（1319年），加保大功臣，加封淮阳王，谥献武。
轶事典故
人们知道“张弘范”这个名字，大多归功于一个在民间流传甚广的段子，说他在崖山灭了南宋之后，骄狂不可一世，竟然勒石记碑，在石崖上刻上“张弘范灭宋于此”七个大字。后来，有个秀才，在他这七个大字前面又加了一个“宋”字，于是变成“宋张弘范灭宋于此”。春秋笔法，褒贬之意，不言自明。这样一来，张弘范便是自取其辱。
