Toutefois, l?immensité de l?empire, la diversité ethnique et linguistique des populations ? face à la minorité arabe des vainqueurs ? provoquent le morcellement du territoire et l?apparition de califats indépendants (le califat ommeyade de Cordoue) ou de dynasties locales héréditaires (dans l?actuelle Tunisie notamment). Le pouvoir temporel des califes ne cesse de décliner, jusqu?à la destruction de Bagdad par les Mongols en 1258, entraînant dans sa chute la domination de la langue et de la culture arabes. «A la fin du XVe siècle, les deux tiers au moins des populations de l?islam vivaient sous des rois qui parlaient persan et ignoraient l?arabe» (Gabriel Martinez-Gros, L?Histoire, 2003). Tout l?est de l?aire musulmane, à partir de l?Anatolie conquise par les Turcs ottomans, est indifférente au califat, à l?arabe et à la descendance du Prophète. L?ouest de cette aire, devenue «le monde arabe», reste attachée aux origines arabes de l?islam et aux privilèges des descendants du Prophète (c?est le cas de la monarchie chérifienne du Maroc). Pour la première fois, l?empire arabo-musulman associe, de façon durable, deux civilisations jusque-là fort éloignées : le sud de la Méditerranée occidentale, héritière des traditions gréco-romaine et judéo-chrétienne, et le monde «oriental» de la Mésopotamie et de la Perse, ouvert sur les civilisations indienne et chinoise. Les souverains musulmans mettent l?héritage de ces deux foyers de civilisation au service de la nouvelle religion, dans les domaines de l?architecture (la mosquée de Damas emprunte aux églises), de l?administration (les califes s?entourent de lettrés juifs, persans, chrétiens ; le théologien Jean Damascène est le chef de l?administration fiscale à Damas), des sciences et de la philosophie. Inversement, l?Occident découvre, lors de contacts ininterrompus pendant tout le Moyen-Age, l?usage du papier, des techniques d?irrigation souterraines (les qanât), les décors géométriques (les «arabesques») utilisés par les artistes musulmans à qui l?islam interdit toute représentation figurée. La langue française conserve la mémoire de tous les produits dont les Arabes nous ont révélé l?existence : aliments (dattes, artichauts, café, sucre?), mobilier (divan, matelas, sofa?), plantes médicinales (camphre, soude, saccharine?), jeux (échecs), artisanat (satin, taffetas, damas?) Peuples de marchands et d?artisans, les musulmans maîtrisent longtemps les routes commerciales, terrestres et maritimes, notamment celles qui conduisent vers l?Orient indien et chinois. De Chine, ils rapportent la boussole, la poudre à canon et le papier. D?Inde, ils ramènent les «chiffres arabes», la numération décimale et de position et l?usage du zéro. Ils sont les intermédiaires obligés du commerce mondial de l?époque, négociant à Antioche ou à Alexandrie les soieries de Chine et les épices d?Inde et d?Indonésie, à Bougie ou Tunis les esclaves, l?or, l?ivoire et le bois de l?Afrique noire.
