ولد الخطيب فى قرية قرقيرة تتبع مركز السنبلاوين محافظة الدقهلية، انتقل الطفل الصغير مع اسرته إلى القاهرة بمنطقة عين شمس وانضم لنادى النصر بمصر الجديدة، وعندما بلغ الخامسة عشر من عمره بات اسمه يتردد كثيرا فى مجال الكرة خاصة خلال مشاركته فى دورى المدارس مع المدرسة الرياضية.
بيبو منذ الصغر كان يحلم باللعب للأهلى، فقد ولد عاشقا للفانلة الحمراء ونجومها ساعد على تحقيق هذه الخطوة النصيحة التى قدمها الكابتن الشيوى فى منطقة عين شمس لوالد الخطيب عندما ذهب اليه ليستطلع رأيه فأكد له انه ليس هناك أفضل من النادى الأهلى، وقاد فتحى نصير، الذى كان يدرب الخطيب فى المدرسة الرياضية، خطوة انضمام بيبو الاتضمام للنادى الاهلى الا ان نادى النصر رفض الاستغناء عنه وظل الخطيب يتدرب فى الاهلى لمدة عام كامل حتى وافق مسئولى نادى النصر على الانتقال وكان عمر الخطيب 16 سنة.
لعب محمود الخطيب طوال حياته الكروية 266 مباراة منها 199 فى الدورى و18فى كأس مصر و29 فى بطولة أفريقيا للاندية أبطال الدورى و20 فى بطولة أفريقيا للأندية أبطال الكؤوس وصل اجمالى أهداف الخطيب إلى154هدفا.
حصل محمود الخطيب على العديد من الألقاب وهى لقب أحسن لاعب، وأحسن هداف، ولقب أحسن أخلاق حيث لم يحصل طوال حياته الكروية الطويلة الا على إنذار واحد فقط، كما انه يعتبر المصرى الوحيد الذى حصل على الكرة الذهبية عام 1983، وهى الجائزة التى تمنحها مجلة فرانس فوتبول لأحسن لاعب فى أفريقيا.
فى اول ديسمبر 1988 اعلن بيبو الاعتزال خلال مباراة حضرها أكثر من 80 الف متفرج امتلئت بهم جنبات استاد القاهرة بالإضافة إلى مثلهم أو أكثر خارج الاستاد وعندما جاءت اللحظة القاسية الجماهير تنادى على بيبو وتقول "لا يا بيبو لا.. لا يا بيبو لا" انهمر بيبو فى البكاء وهو يردد الجملة الشهيرة : "الف شكر.. الف شكر.. الف شكر.. الف شكر".
وبعد الاعتزال اتجه الخطيب للادارة عضوا بمجلس الاهلى ثم نائبا للرئيس مع حسن حمدى ورجل تنفيذا لتطبيق بند الـ 8 سنوات .
