Il est diplômé en 1983 de l'Institut d'informatique d'entreprise (IIE, alors rattaché au Conservatoire national des arts et métiers), grande école d'ingénieurs devenue l'École nationale supérieure d'informatique pour l'industrie et l'entreprise (ENSIIE, rattachée aux Mines-Télécoms).
Il est également titulaire d'un diplôme de troisième cycle en économie internationale et globalisation, spécialité Politiques économiques et sociales de l'université de Grenoble. Il a participé à de nombreuses formations organisées conjointement par la Banque centrale des États de l'Afrique de l'Ouest (BCEAO) et l'Institut du Fonds monétaire international.
Mahammed Dionne a également suivi des formations délivrées par l'Institut de la Banque mondiale en particulier sur le financement des infrastructures et leur accès par les plus pauvres.
Mahammed Dionne a commencé sa carrière professionnelle en 1983, à la compagnie IBM France (division des opérations extérieures), en qualité d'ingénieur technico-commercial, avant de rejoindre en 1986, la Banque centrale des États de l'Afrique de l'Ouest (BCEAO). il a occupé successivement au sein de la banque, les fonctions de dondé de pouvoir, sous-directeur, puis directeur.
En 1997, il a été détaché par la BCEAO auprès du gouvernement du Sénégal.
Dans le cadre de son détachement, Mahammed Dionne a occupé de 1997 à 2003, les fonctions de directeur de l'Industrie au ministère chargé de l'Industrie, puis de chef du Bureau économique du Sénégal à Paris avec rang de ministre-conseiller, de 2003 à 2005, et enfin, de directeur de cabinet du Premier ministre Macky Sall de 2005 à 2007. Après l'élection de Macky Sall à la présidence de l'Assemblée nationale du Sénégal, Mahammed Dionne devient don directeur de cabinet de 2007 à 2008.
Par la suite il est nommé représentant de l'ONUDI en Algérie jusqu'en décembre 2010.
De 2011 à mars 2014, il exerce les fonctions de coordinateur sénior de la coopération industrielle sud-sud puis, comme chef du programme de l'ONUDI pour l'Afrique et les pays les moins avancés, au siège de l'ONUDI à Vienne
Le 6 juillet 2014, il est nommé Premier ministre par le président Macky Sall.