21 Ekim 1948'de Trabzon'da doğan Mehmet Ali Yılmaz, Türkiye'de tanınmış bir isim olarak biliniyordu. İstanbul Mühendislik ve Mimarlık Akademisi İnşaat Fakültesi mezunu olan Yılmaz, bankacılık ve basın alanlarında da aktif rol almıştı.
Bankacılık ve basın sektörlerinde önemli pozisyonlarda bulunan Mehmet Ali Yılmaz, aynı zamanda Tek-Art Holding ve Yılmaz Yayınları AŞ'nin yönetim kurulu başkanı olarak görev yapıyordu. Güneş Gazetesi'nin sahibi ve Titibank Yönetim Kurulu Başkanı olarak da tanınan Yılmaz, Trabzonspor Kulübü başkanlığı görevini de üstlenmişti.
1991 genel seçimlerinde DYP'den Trabzon Milletvekili olarak seçilen Mehmet Ali Yılmaz, 49. ve 50. Hükümetlerde Spordan Sorumlu Devlet Bakanı olarak görev yapmıştı.
Mehmet Ali Yılmaz'ın İstanbul Beşiktaş'taki evinde ölü bulunmasıyla ilgili ailesinden henüz resmi bir açıklama yapılmazken, ilk incelemelerde ölüm nedeninde şüpheli bir durum tespit edilmediği belirtildi. Mehmet Ali Yılmaz, evli ve beş çocuk babasıydı.