محمد قبایل مختلف عرب را با ایجاد امت اسلامی در سالهای آخر عمرش متحد ساخت. با درگذشت او، اختلافات راجع به جانشینی او در گرفت. عمر بن خطاب، یکی از صحابه مهم محمد، ابوبکر را به عنوان جانشین در سقیفه نامزد کرد و بقیه حمایت خود را افزودند و ابوبکر به عنوان اولین خلیفه مسلمین انتخاب شد.برخی از صحابه همچون علی و سلمان و ابوذر برای مدتی از بیعت با ابوبکر امتناع کردند.
فوریترین کار ابوبکر رسیدگی به شورشهای قبایل عرب در جنگهایی که مورخین مسلمان بعدی نام «جنگهای ارتداد»بر آن نهادند، بود. کار فوری دیگر لشکرکشی به سمت امپراتوری روم شرقی(بیزانس) به دلیل شکست پیشین مسلمانان بود.پس از ابوبکر، به ترتیب عمر بن خطاب، عثمان بن عفانو علی بن ابیطالب به خلافت رسیدند که به خلفای راشدین مشهورند. پس از آنان حکومت به بنی امیه و سپس به بنی عباس رسید. عبدالرحمان سوم و جانشینانش در آندلس، فاطمیان، حفصیان و مرینیان نیز خود را جانشین محمد میدانستند. سلاطین عثمانی هیچگاه رسماً خلیفه نبودند. تنها عبدالمجید دوم از ۱۹۲۲ تا ۱۹۲۴ خود را خلیفه تمامی مسلمانان خواند.