كان (حَسَنَ الخَلْقِ وَالخُلُقِ، كَامل العقل، حَسَنَ السَّمت، جَيِّدَ السِّيَاسَةِ، حَرِيْصاً عَلَى العَدْلِ بكل مُمكنٍ، وَافِرَ العِلْمِ، فَقِيْهَ النَّفْسِ، ظاهر الذَّكَاء والفَهْمِ، أَوَّاهاً، منِيباً، قَانتاً لله، حنيفاً، زاهداً مع الخلاَفَة، نَاطِقاً بِالحق مَعَ قلة المُعينِ، وكَثْرة الأُمراءِ الظَّلَمَة الذين مَلُّوْهُ وَكَرهوا مُحاققَتَهُ لَهُم، وَنَقْصَهُ أُعطياتِهِم، وَأَخْذَهُ كَثِيْراً مِمَّا فِي أَيْدِيْهِم مما أَخذوه بِغَيْر حق، فَما زَالُوا بِهِ حتى سَقَوه السُّمَّ، فَحَصَلَت له الشهادَة وَالسَّعادة، وَعُدَّ عنْد أَهْلِ العلم مِنَ الخلَفاء الرَّاشِدِين، وَالعُلَمَاءِ العَامِلِيْنَ) (سير أعلام النبلاء). لما أُسندت الخلافة إليه عقر وخرَّ على الأرض وانصدع قلبه من كثرة البكاء لأنه لم يكن يريد ذلك الأمر؛ وتحوّلت حياته بعدها من ترف العيش إلى الزهد والتقشف. وكان أول موقف له بعدما بويع بالخلافة أنه رفض مراكب الخلافة وفضّل أن يركب بغلته وقال: (ابْعَثْ بِهَا إِلَى أَمْصَارِ الشَّامِ يَبِيعونها، واجعلْ أَثمانها فِي مال الله، تَكْفِيْنِي بغْلَتِي هذِه الشهباء). ولذا قال مالك بن دينار: (الناس يقولون عنِّي: زاهد، وإنما الزاهد عمر بن عبد العزيز الذي أتته الدنيا فتركها). ولما أراد أن ينشر العدل وينزع ما بيد الأمراء من أموال العامة بدأ بنفسه وأهل بيته فنادى على زوجته فاطمة بنت عبد الملك وخيّرها بين حليها وجواهرها أن تضعها في بيت مال المسلمين وبينه فاختارته واختارت حياة التقشُّف والزهد معه، وكانت نِعم العون له. قال رجاء بن حيوة (وزير عمر): كنت مع عمر بن عبد العزيز لما كان والياً على المدينة فأرسلني لأشتري له ثوبًا: فاشتريته له بخمسمائة درهم. فلما نظر فيه قال: هو جيد لولا أنه رخيص الثمن. فلما صار خليفة للمسلمين بعثي لأشتري له ثوبا فاشتريته له بخمسة دراهم، فلما نظر فيه قال: هو جيد لولا أنه غالي الثمن. قال رجاء: فلما سمعت كلامه بكيت. فقال لي عمر: ما يبكيك يا رجاء؟ قلت: تذكرت ثوبك قبل سنوات وما قلت عنه. فكشف عمر لرجاء ابن حيوة سر هذا الموقف، وقال يا رجاء، إنّ لي نفسا تواقة، وما حققت شيئًا إلا تاقت لما هو أعلى منه؛ تاقت نفسي إلى الزواج من ابنة عمي فاطمة بنت عبد الملك فتزوجتها. ثم تاقت نفسي إلى الإمارة فوليتها، وتاقت نفسي إلى الخلافة فنلتها، والآن يا رجاء تاقت نفسي إلى الجنة. فأرجو أن أكون من أهلها. وكان يقول: (من أكثر ذكر الموت رضي من الدنيا باليسير، ومن عد كلامه من علمه قل كلامه إلا فيما ينفعه).