Narodil se kolem r. 339 v Trevíru (v dnešním Německu). Po otcově smrti se s matkou a sourozenci přestěhoval do Říma. Po ukončení studií začal úřednickou dráhu ve státní službě. Za několik let se stal správcem severoitalských provincií Ligurie a Emilie.
R. 374 zemřel milánský biskup a očekávala se bouřlivá volba jeho nástupce. Aby zabránil nejhoršímu, odešel Ambrož na shromáždění, kde vyzýval k rozvaze. Po jeho řeči zavládlo ticho. Tu se náhle ozval dětský hlas: „Ať je biskupem Ambrož!“ a shromáždění se jednomyslně přidalo a zvolilo jej za biskupa. Ambrož se snažil shromážděné přesvědčit, že je to nemožné, ale marně. I když se uchýlil ke lsti a dal do svého paláce přivést ženy pochybných mravů, lid lest prohlédl a na volbě trval. Když pak i císař Valentinián I. volbu schválil, dal Ambrož svůj souhlas a po důkladné přípravě přijal 30.11.374 křest a týden nato biskupské svěcení.
Ambrož si uvědomoval své nedostatky, a tak se dal horlivě do studia teologie a svatého Písma. Svůj úřad zastával velmi svědomitě. Byl velkým obráncem katolické víry proti bludům té doby. Vynikal velkou láskou a byl pravým pastýřem a učitelem svého lidu. Dokázal se ostře postavit proti mocným. Byl také plodným spisovatelem. Jeho spisy vycházely z pastorace a byly na ni zaměřené. Je též považován za zakladatele latinských liturgických hymnů. Podle liturgie sv. Bazila napsal Ambrož liturgii, která se dodnes užívá v Miláně a nazývá se ambroziánská.
Když viděla císařovna Justina, která byla zarytá ariánka, že biskupovým působením ariánství klesá, snažila se Ambrože vypudit. Její záměr se však nezdařil. r. 386 chtěla zabavit katolíkům kostel a dát jej ariánům. Její nezletilý syn Valentinián s ní souhlasil a vydal o tom dekret. Ambrož ale odepřel tak učinit se slovy: „Císař má moc nad městskými hradbami a příkopy, ale na svatyně právo nemá. Jsou to boží domy. Kdyby císař žádal, co je mé, dal bych mu všechno,ale bludařům chrám nevydám, i kdybych měl zemřít na stupních oltáře. Císař je v Církvi a ne nad ní.“ Tak byl záměr ariánů zmařen.
Když se jistý Maxim vzbouřil proti císaři, uprchla císařovna se synem pod ochranu východního císaře Teodósia. Ten r. 388 porazil Maxima a dal jej popravit. Pak slavně vstoupil do Milána a zůstal tam tři roky. Ve městě přilnul synovskou oddaností k Ambroži.
R. 390 se v Soluni vzbouřil lid a zavraždil několik císařských důstojníků. Teodósius se rozhodl, že se obyvatelům města pomstí. I přes Ambrožovy protesty nařídil císař, aby vojáci vtrhli do divadla a pozabíjeli tam shromážděný lid. Byli zavražděni viníci i nevinní.
Biskup se zarmoutil, odešel do ústraní a pak napsal císaři list, ve kterém poukazoval na ohavnost tohoto zločinu a zakázal mu vstupovat do chrámu a přijímat svátosti, dokud upřímným pokáním neučiní zadost boží spravedlnosti. Teodósius se tím však nezaobíral a brzy nato se odebral do hlavního milánského chrámu. Tu mu Ambrož vyšel v ústrety, zastoupil mu cestu a ostře jej káral. Zaražený císař se omlouval: „Také David se dopustil hříchů.“ Biskup mu odpověděl: „Jestliže jsi následoval Davida v hříchu, následuj ho i v pokání!“ Teodósius se odmlčel a pak se podle tehdejšího zvyku podrobil veřejnému pokání - zavřel se na osm měsíců ve svém paláci.
Když se blížily Vánoce, odebral se císař k Ambroži a prosil o pokání. Ten, když viděl císařovu upřímnost, nařídil mu, aby se postavil v chrámě mezi kajícníky. Po vykonaném pokání slíbil císař, že každý rozsudek o popravě nebo zabavení majetku nabude právní moci teprve třicátého dne, a Ambrož jej opět přijal do Církve a dovolil mu přistupovat ke svátostem.
Když císař dlel v milánském chrámě, zaujal, jak měl ve zvyku, místo ve svatyni. Ambrož mu vzkázal, že svatyně je vyhrazena duchovním, a císař pokorně odešel mezi ostatní věřící. Později zachovával tento zvyk i v Cařihradě. Když se jej patriarcha Nestor ptal, proč se vzdal svého zvyku, císař odpověděl: „Teprve v Ambroži jsem našel muže, který mi řekl pravdu. Znám jen jediného, který je hoden biskupské hodnosti - Ambrože. Od něho jsem poznal rozdíl mezi biskupem a císařem.“
Ambrož zemřel 4.4.397 v Miláně, kde je i pochován.