Sebelum menjadi khalifah, ia dikenal sebagai pemuda paling bergaya. Ia punya harta berlimpah, gemar berpakaian mewah, menyukai tembang dan tarian, dan mengenakan minyak wangi yang mahal. Semuanya berubah seketika sesaat setelah dibaiat sebagai khalifah. Semua kemewahan ia tanggalkan dan nyaris seluruh kekayaannya ia serahkan kepada bendahara negara. Ia hanya menerima upah yang cukup untuk makan sehari-hari serta kebutuhan dasar keluarganya. Ia singkirkan singgasana khalifah yang megah lalu menggelar tikar di salah satu sudut rumah dan menjadikannya tempat duduk khusus sang khalifah. Bahkan, ia mengubah gaya berjalannya yang trendi dan dicontoh banyak pemuda. Gaya berjalan yang sebelumnya gagah dan pongah berubah menjadi gaya berjalan seorang zahid yang selalu tunduk dan merendah.

Dialah Umar ibn Abdul Aziz. Sepanjang masa kekuasaannya yang singkat, ia telah mengubah tak hanya dirinya dan keluarganya, tapi seluruh daulah dan rakyat yang dipimpinnya. Di ujung masa kekuasaannya, para petugas zakat tak dapat menemukan orang yang mau menerima zakat, karena kesejahteraan merata untuk semua. Kekayaan tak hanya berkumpul pada sekelompok bangsawan dan para saudagar. Ia istikamah menegakkan keadilan dan kebajikan yang dipegangnya sebagai prinsip utama dalam menjalankan kekuasaan.

Namun, keadilan dan kebajikannya tak mampu meluluhkan permusuhan, kebencian, dan dendam musuh-musuhnya yang tak lain adalah kaum kerabatnya sendiri. Mereka membencinya dan mengharapkan keruntuhan serta kematiannya karena Umar memangkas santunan negara untuk mereka, karena Umar mengambil sebagian harta yang mereka peroleh secara aniaya, dan karena Umar menyantuni serta mendekati Bani Hasyim dan keturunan Nabi saw. yang selama ini mereka musuhi. Merekalah yang akhirnya menghabisi kekuasaannya.

Umar ibn Abdul Aziz bukan hanya khalifah bagi umat Islam, melainkan pemimpin bagi semua kalangan. Ia angkat derajat para mawali (mualaf dari penduduk pribumi); ia tegakkan hak-hak para dzimmi; ia lindungi keyakinan dan hak beribadah para penganut agama lain. Umar ibn Abdul Aziz adalah khalifah semua bangsa.