Oman omnämns troligen för första gången på sumeriska kilskriftstavlor från 3000-talet före Kristus och det är klarlagt att romerska geografer kände till området.

Befolkningen övergick tidigt till islam. Invånarna anslöt sig till utbrytarriktningen ibadiya redan under de första striderna om vem som skulle efterträda profeten Muhammed efter dennes död år 632. På 700-talet blev området ett självständigt rike under ledning av en imam. Riket hölls samman trots invasionsförsök från bland annat araber, perser och indier. På 900-talet var Suhar en av arabvärldens största städer med en omfattande utrikeshandel. Omanska sjömän färdades till exempel ända till Kina.

År 1507 erövrades Muskat och flera andra omanska hamnstäder av portugiserna. Kustområdet inlemmades snart i Portugals handelsimperium och förblev så tills 1650, då en omansk armé kunde driva ut portugiserna. Omanierna utvidgade därefter sitt rike ända till Östafrika. 1730 hade riket erövrat städerna Mogadishu i dagens Somalia Mombasa i nuvarande Kenya samt de tanzaniska öarna Zanzibar och Pemba.

År 1749 valdes Ahmad ibn Sa’id till imam och därmed grundades Sa’id-dynastin som styr landet än idag. Ahmad ibn Sa’ids sonson lät 1786 flytta huvudstaden från Rostaq i inlandet till Muskat vid kusten. Stammarna i inlandet accepterade dock inte flytten och fortsatte att välja sina egna imamer. Dessa tävlade om makten med härskaren i Muskat, som antog den sekulära titeln sultan. Därmed hade i praktiken två riken uppstått: ett religiöst under imamen i inlandet, imamatet, och ett sekulariserat rike under sultanen i Muskat, sultanatet.

Från slutet av 1700-talet ökade britternas inflytande i regionen och Storbrittanien kom snart att fungera som skyddsmakt för sultanatet. Än idag har Storbrittanien och Oman nära relationer till varandra.

I början av 1800-talet visade den dåvarande sultanen ett stort intresse för de östafrikanska delarna av riket och han tilbringade ofta tiden där. 1829 blev provinsen Dhofar i söder en delav sultanatet. När sultanen dog 1856 delades riket mellan hans två söner. Den ene ärvde de östafrikanska delen och använde ön Zanzibar som bas. Den andre sonen blev sultan över Muskat.

Sultanatet i Muskats ekonomi försämrades kraftigt i mitten av 1800-talet, dels beroende på att de östafrkanska besittningarna hade avskiljts, dels därför att britterna hade förbjudit den lönsamma slavhandeln, som hade haft ett viktigt centrum i Muskat. Imamatet i inlandet såg nu sin chans och erövrade Muskat 1868. Med britternas hjälp återupprättades dock sultanatet, men mellan Muskat och imamatet rådde ett krigstillstånd fram till 1920, då ett fredsfördrag kunde slutas.

När Sa’id ibn Taimur blev sultan 1932 gick landet in i en lång period av bakåtsträvan och isolering. Han förbjöd sina undersåtar att röka, lyssna på radio, spela trummor och bära glasögon. Kontakterna med utlandet minimerades. Oman ansågs under 1960-talet vara ett av världens mest isolerade riken.

Efter andra världskriget minskade Persiska vikens strategiska betydelse för Storbrittanien och 1951 erkände London sultanatet som ett fullt självständigt land. Tre år senare valdes i inlandet en ny imam, som försökte upprätta en suverän stat. Nya strider utbröt med sultanens styrkor. Med hjälp av brittiska soldater tog sultanen kontroll över hela landet 1959, imamatet kuvades och imamen flydde till Saudiarabien. Övriga arabländer stödde emellertid imamen, och frågan om Omans medlemsskap i FN förhalades under 1960-talet. Först 1971 blev Oman medlem i FN.