马文升是明朝中期名臣，为官景泰、天顺、成化、弘治、正德五朝，被誉为“五朝元老”。景泰二年（1451），25岁的马文升中了进士，开始了他一生的官宦生涯。
马文升不仅是一名清正的司法官，他在巩固边防方面的功绩更加卓著。
成化四年（1468年），平凉、固原一带有满四变乱，官军进讨失利，形势紧急。朝廷急召马文升为右副都御史巡抚陕西，协助总督项忠等讨伐。马文升迅速赶到固原，擒获了满四，解了西北边陲之患，以功擢升为左副都御史，继续巡抚陕西。他在陕西修筑关塞要隘，增设卫所，选将练兵，迅速壮大了骑兵部队，使防务能力得到加强后，又平定了西北一带的割据势力。成化九年（1473）冬，残元军队分多路进犯边镇，马文升率将士将其一一击败，并擒获其平章迭烈孙，声名大震。他在陕西苦心经营数年，基本实现了西北地区的安定。成化十一年（1475）春，马文升进职为提督甘、凉、宁夏三镇军务。
不久，马文升进为兵部右侍郎。成化十四年（1478）又进为兵部左待郎，成化十九年（1483）再进为左副都御史。这期间辽东多事，马文升先后3次受朝廷派遣巡抚辽东，整顿辽东军务，安抚辽东女真等少数民族部落。他组织修城堡，练兵士，利兵甲，特别注意抚恤军民，整肃军纪，从而使辽东各族百姓安居乐业，社会秩序稳定。
弘治初年，新疆哈密卫被吐鲁番人占据。为了恢复明政权对哈密的控制，朝廷采纳了已任兵部尚书的马文升的建议，封元人后裔陕巴为哈密新忠顺王。弘治六年（1493），吐鲁番统治者阿黑麻劫走了陕巴和明朝廷授予的金印，引起明朝廷的严重关注。于是马文升奉命挑选精兵，联合西北军一道日夜兼程，奔袭哈密，终于迫使阿黑麻送回了陕巴，哈密重归明政权控制。
弘治年间，是他仕途上较受朝廷器重的时期。孝宗皇帝知马文升之贤，即帝位后召见了他，拜为左都御史命掌院事。自此，马文升成为孝宗身边的重臣和近臣。
弘治二年（1489），因马文升久历边事，熟知军务，被进为兵部尚书兼提督十二团营，此后，又累官至吏部尚书加少师兼太子太师。他忠心耿耿供事于朝，在辅佐朝政上颇有建树。主要有：
一、整肃军旅
鉴于正统以来明廷与各少数民族特别是北方瓦剌、鞑靼等部落的冲突频繁，而明廷的军事力量逐渐削弱，马文升在兵部任上时，极力主张整肃军旅，并采取了很多措施。他按照一定的标准对军中将校进行了严格的挑选，凡不合要求的，一律予以汰除。他冒着种种压力毅然罢黜了一批贪懦将校。马文升主持兵部13年，不但在严明军纪、选用将士、组织操练、普及兵法和改良武器诸方面有所建树，而且在屯田、马政、储备等方面多次上奏，献计献策。他自己还亲自制定了五花营八阵法教授给将士。
二、辅君恤民
马文升从他的亲身经历中领悟到，民心的得失是直接关系到明廷统治能否巩固的要务。他认为“民为邦本，本固邦宁，民心之向背，天命之去留，宗社之安危系焉”；“自古人君之有天下，未尝不以爱养斯民为首务也。”马文升还把节俭同爱民联系起来，多次上疏提出“爱民者必先于节用”。他提醒皇帝要“视民如己之子，节财如己之肉”，“存一分，国有一分之益。宽一分，民受一分之赐”。他主张在漕运、赈济、赋税、徭役等方面减轻百姓的一些负担和痛苦。他在职权范围和力所能及的情况下，尽心推行“爱民”的政治主张。
弘治初年，马文升综合当时社会各方面需要解决的问题，向孝宗上《陈治道疏》，提出了：“选贤能以任风宪；禁摭抬以戒赃官；择人才以典刑狱；责成效以革奸弊；申命令以修庶务；逐术士以防煽惑；择守令以固邦本；严考核以示惩敬；禁公罚以励士风；广储积以足国用；恤土人以防后患；清僧道以杜游食；教怀柔以安四夷；节财用以苏民困；足兵戎以御外侮”等十五条时政主张。
三、整顿吏治
马文升针对当时吏治混乱，贪官污吏肆行无惮的腐败现象，极力主张通过整顿吏治以振作朝纲。他提出必须“申明律意”，即要重视《大明律》的作用，以法治国。他要求天下大小衙门并两京都属官吏，都必须备置《大明律》一部，“朝夕熟读，用心讲解，务晓其意”。并通过各处巡按、御史、按察司、分巡官遵照《大明律》的规定，对官吏进行考察，凡不称职者，该降该罚，依律施行。
马文升在女真人内乱或犯边时，既不是像有些官员认为的应该军事镇压，严厉惩办，全力剿灭叛乱，也没有放任自流，而是在说服无效的情况下给予军事镇压。
更难能可贵的是，马文升认为边疆民族的反叛与边吏的失职有很大的关系。成化十四年，马文升上奏。比者建州、海西犯边，诸夷俱已听抚效顺。盖辽东祸起自海西马牛、撒失哈等数人，或因不得官职敕书，或欲入贡被守关指挥等官索钱垢辱。参将周俊知之既久，不与转达处分，及逆谋已成，又不能安托解息，酿成大患，俱宜逮问。
仍行辽东守臣，凡传报夷情有所陈乞不平者，即宜招袜首恶之人，开谕释怨，或具闻区处，并得到了明孝宗的批准。由此我们可看出，马文升具有突出的外交能力，凭借他对迂东民族问题的了解，基本上沿袭了明朝历代统治者治理江东女真人的思想，恩威并施，以夷制夷，让女真首领治理本部，维持了明朝、蒙古和女真方势力的均衡，出现边境晏然，而东人之必亦安矣的局面。《明史》记载，文升凡至辽，军民闻其来，皆鼓舞。益禁抑中官、总兵，使不得剥削，众益大喜。
哈密是西北回回、畏兀儿等少数民族居住的地区，因种族繁多，离中原偏远，地理位置又很重要，遂成为历代中原王朝防范的重点。明成祖时期设立哈密卫，封其首领为忠顺王、忠义王，归属朝廷，成为明朝设立的关西诸卫之一。成化时，鲁番部强大，据有哈密。弘治元年，忠顺王罕慎被土鲁番部诱杀，哈密问题再次成为朝野关注的边患。对此，时任兵部尚书的马文升又有怎样的见解和策略呢？我们可从他的《兴复哈密记》中分析和归纳出下几点：马文升主张哈密自治，让元朝遗老来治理。马文升考虑到哈密民族构成的复杂性，哈密国回回、畏兀儿、哈剌灰三种，番夷同居一城，种类不贵，彼此预顾。
北山一带又有小列秀、野化克力数种强虏时至哈密需索，稍不如愿，辄肆侵凌，至为难守。于是，马文升决定让元的后裔来世袭并管理国事，此震慑降服诸番。基于上情况，马文升命利用其他卫所入贡的机会，令贡使推荐可主事哈密国之人，最后贡使举亲侄陕己，认为其年少量洪，足服众且是哈密忠顺王脱脱的近族后裔。明孝宗采纳了他的建议，封陕己为哈密新忠顺王，并派人亲自送往哈密。马文升认为哈密具有重要的战略位置，要求恢复哈密迎护朝使，统领诸番，为西陲屏蔽的作用。在他看来，令为西域之襟喉，通诸番之消息，凡有入贡夷使方物，悉令此国译文具闻，马文升让哈密真正成为控扼西域入嘉略关的要道。
马文升借鉴了唐朝狄仁杰的夷狄叛则伐之，降则抚之的推亡话存思想，认为这一思想是国家继绝之美，识者是之。弘治六年，当土鲁番又擒获陕己，兵掠周围各部时，马文升认识到边患的严重性，弘治八年，马文升决定伐之，锐意谋兴复，用许进巡抚甘肃图之，哈密重新置于明朝的控制之下，西域亦自是颇惮中国。正如马文升在其《兴复哈密记》中所记：自是阿黑麻感畏朝廷恩威，并黑楼国等处咸遣夷使入贡，诸番无警，边方底宁，而九重亦舒西顾之忧矣。请慑服器扩之丑虞，兴复久灭之番国，仰仗圣天子明圣，且经咯者十有余年而功始就，中间任事者亦哲一人哉是何成事之不易邪，因记兴复岁月及我朝役置之由，俾后之人知其始末得有所考云。
总之，马文升通过恩威兼施、刚柔相济之策，一方面举陕己主哈密国事，宣谕朝廷恩威感化阿黑麻，遏制了鲁番的势为，并使之继续保持与明朝贸易往来；另一方面又采取军事措施，加强了西北边防，是弘治年间的哈密危机暂时得到解决。
马文升整顿吏治的又一措施是裁汰冗官，选任贤能。弘治初年，他协助当时的吏部尚书王恕考察五品以下官员，裁除冗职二千余人。弘治十四年（1501），年近八旬的马文升被破例升为吏部尚书。不久，他即上言三事，一日裁冗官，二日杜奔竞，三日革滥进，都获孝宗采纳。弘治十七年（1504）八月，孝宗嘱托马文升对天下诸司百官“用心访察，以求择黜至当。”次年五月，孝宗死，马文升以承遗诏的名义毅然裁掉传奉官763人，表现了他整顿吏治的决心和魄力。马文升84岁时去世，谥“端肃”。