Ketika UMNO mula bertapak di negeri itu, beliau telah menyertai parti itu dan terpilih sebagai Exco Pemuda UMNO bagi penggal 1993/1996 setelah mendapat tempat ke-12 dengan jumlah 198 undi.
Pada tahun 1995 beliau telah dipilih sebagai Ketua UMNO Bahagian Semporna dan Ketua Pergerakan Pemuda UMNO Sabah. Mohd Shafie menyandang jawatan Setiausaha Parlimen Kementerian Penerangan antara 15 Mei 1995 dan 24 Mei 1999.
Beliau menjadi Ahli Parlimen Kawasan Semporna, Sabah pada tahun 1995 dan berjaya mengekalkan kerusi parlimen sehingga kini.
Beliau dilantik sebagai Timbalan Menteri Perumahan dan Kerajaan Tempatan pada 25 Mei 1999 dan kemudian berpindah ke Kementerian Pertahanan untuk menyandang jawatan Timbalan Menteri antara 14 Disember 1999 dan 29 Mac 2004. Antara tahun 2000 dan 2003, Mohd Shafie juga menjadi Ahli Majlis Tertinggi UMNO.
Mohd Shafie dilantik menjadi Menteri Perdagangan Dalam Negeri dan Hal Ehwal Pengguna Malaysia pada 30 Mac 2004, menggantikan Tan Sri Muhyiddin Yassin dan kemudian diberikan pula portfolio Kementerian Perpaduan, Kebudayaan, Kesenian dan Warisan Malaysia (19 Mac 2008 – 9 April 2009).
Pada 28 Julai 2015, Shafie dialihkan dalam rombakan kabinet oleh Najib dengan kehilangan portfolio Menteri Kemajuan Luar Bandar dan Wilayah pada (10 April 2009 – 29 Julai 2015).
Berikutan itu, beliau membentuk parti pembangkang baru yang dikenali sebagai WARISAN yang diluluskan oleh Pendaftar Pertubuhan (RoS) pada 17 Oktober 2016.
Kini memegang jawatan Presiden Parti Warisan Sabah.
Sementara itu, beliau memegang jawatan Ketua Menteri Sabah pada 12 Mei 2018 - 25 September 2020.
Beliau yang juga bekas Naib Presiden UMNO pernah berkhidmat dalam jawatan tersebut bermula (2009–2016) setelah menyertai parti Barisan Nasional (BN) pada (1995-2016).