Mesut Yilmaz è nato a Istanbul il 6 novembre 1947. Durante gli anni di scuola ha conseguito una laurea in finanza/economia presso l'Università di Ankara, proseguendo poi gli studi universitari in economia e scienze sociali in Germania.
Quando decise di entrare in politica, nel 1983 fondò il Partito della Madrepatria (ANAP) con l'ex Presidente, il signor Turgut Ozal. Nel novembre dello stesso anno fu eletto deputato della Grande Assemblea Turca e poi nominato Ministro dell'Informazione a dicembre. Nel 1986 è stato Ministro della Cultura e del Turismo, nel dicembre 1987 Ministro degli Affari Esteri. È stato Primo Ministro per tre volte durante i governi di giugno-ottobre 1991, marzo-giugno 1996 e giugno 1997-1998. Ha inoltre ricoperto la carica di Ministro di Stato e Vice Primo Ministro durante la coalizione DSP - MHP - ANAP tra il 2000 e il 2002. Si dimise dopo che il suo partito non riuscì a superare la soglia di sbarramento durante le elezioni generali del 2002. Riuscì a entrare in Parlamento come deputato indipendente durante le elezioni del 2007 e poi continuò la sua carriera all'interno del Partito Democratico (DP) tra il 2009 e il 2011, fino alle sue dimissioni.
Mesut Yilmaz è stato descritto come un fervente laicista nella grande tradizione di Atatürk. Ha perseguito con determinazione la privatizzazione dell'economia e si è impegnato per riformare il codice tributario e il sistema di previdenza sociale. Si è concentrato sulla risoluzione delle rivolte curde del PKK nell'Anatolia orientale e ha lavorato per ridurre la violenza e migliorare la situazione dei diritti umani in Turchia.
Mesut Yilmaz è morto il 30 ottobre 2020. Era sposato e aveva due figli, ma purtroppo uno di loro è morto nel 2017. Sig. Yilmaz sapeva parlare tedesco e inglese come lingua straniera.