Karol urodził się na zamku Arona 3 października 1538 r. jako syn arystokratycznego rodu, spokrewnionego z rodem Medici. Ojciec Karola wyróżniał się prawością charakteru, głęboką religijnością i miłosierdziem dla ubogich. To miłosierdzie będzie dla Karola, nawet już jako kardynała, ideałem życia chrześcijańskiego.
Już w młodym wieku Karol posiadał wielki majątek. Kiedy miał zaledwie 7 lat, biskup Lodi dał mu suknię klerycką, przeznaczając go w ten sposób do stanu duchownego. Takie były ówczesne zwyczaje. Dwa lata później zmarła matka Karola. Aby zapewnić mu odpowiednie warunki na przyszłość, mianowano go w wieku 12 lat opatem w rodzinnej miejscowości. Młodzieniec nie pochwalał jednak tego zwyczaju i wymógł na ojcu, żeby dochody z opactwa przeznaczano na ubogich.
Pierwsze nauki pobierał Karol na zamku rodzinnym w Arona. Po ukończeniu studiów w domu wyjechał zaraz na uniwersytet do Pawii, gdzie zakończył studia podwójnym doktoratem z prawa kościelnego i cywilnego (1559). W tym samym roku jego wuj został wybrany papieżem i przyjął imię Pius IV. Za jego przyczyną Karol trafił do Rzymu i został mianowany protonotariuszem apostolskim i referentem w sygnaturze. Już w rok później, w 23. roku życia, został mianowany kardynałem i arcybiskupem Mediolanu (z obowiązkiem pozostawania w Rzymie), mimo że święcenia kapłańskie i biskupie przyjął dopiero dwa lata później (1563). W latach następnych papież mianował siostrzeńca kardynałem-protektorem Portugalii, Niderlandów (Belgii i Holandii) oraz katolików szwajcarskich, ponadto opiekunem wielu zakonów i archiprezbiterem bazyliki Matki Bożej Większej w Rzymie. Urzędy te i tytuły dawały Karolowi rocznie ogromny dochód. Było to jawne nadużycie, jakie wkradło się do Kościoła w owym czasie. Pius IV był znany ze swej słabości do nepotyzmu. Karol jednak bardzo poważnie traktował powierzone sobie obowiązki, a sumy, jakie przynosiły mu skumulowane godności i urzędy, przeznaczał hojnie na cele dobroczynne i kościelne. Sam żył ubogo jak mnich.
Wkrótce Karol stał się pierwszą po papieżu osobą w Kurii Rzymskiej. Praktycznie nic nie mogło się bez niego dziać. Papież ślepo mu ufał. Nazywano go "okiem papieża". Dzięki temu udało się mu uporządkować wiele spraw, usunąć wiele nadużyć. Nie miał względu na urodzenie, ale na charakter i przydatność kandydata do godności kościelnych. Dlatego usuwał bezwzględnie ludzi niegodnych i karierowiczów. Takie postępowanie zjednało mu licznych i nieprzejednanych wrogów. Dlatego zaraz po wyborze nowego papieża, św. Piusa V (1567), musiał opuścić Rzym. Bardzo się z tego ucieszył, gdyż mógł zająć się teraz bezpośrednio archidiecezją mediolańską. Kiedy był w Rzymie, mianował wprawdzie swojego wikariusza i kazał sobie posyłać dokładne sprawozdania o stanie diecezji, zastrzegł sobie też wszystkie ważniejsze decyzje. Teraz jednak był faktycznym pasterzem swojej owczarni.
Z całą wrodzoną sobie energią zabrał się do pracy. W 1564 r. otworzył wyższe seminarium duchowne (jedno z pierwszych na świecie). W kilku innych miastach założył seminaria niższe, by dla seminarium w Mediolanie dostarczyć kandydatów już odpowiednio przygotowanych. Prowadzenie seminarium powierzył oblatom św. Ambrożego, zgromadzeniu kapłanów diecezjalnych, które istnieje do dziś. Zaraz po objęciu rządów bezpośrednich (1567) przeprowadził ścisłą wizytację kanoniczną, by zorientować się w sytuacji. Popierał zakony i szedł im z wydatną pomocą. Dla ludzi świeckich zakładał bractwa - szczególnie popierał Bractwo Nauki Chrześcijańskiej, mające za cel katechizację dzieci. Dla przeprowadzenia koniecznych reform i uchwał Soboru Trydenckiego (1545-1563) zwołał aż 13 synodów diecezjalnych i 5 prowincjalnych. Dla umożliwienia ubogiej młodzieży studiów wyższych założył przy uniwersytecie w Pawii osobne kolegium. W Mediolanie założył szkołę wyższą filozofii i teologii, której prowadzenie powierzył jezuitom. Teatynom natomiast powierzył prowadzenie szkoły i kolegium w Mediolanie dla młodzieży szlacheckiej.
Był fundatorem przytułków: dla bezdomnych, dla upadłych dziewcząt i kobiet, oraz kilku sierocińców. Kiedy w 1582 r. została przeprowadzona reforma mszału i brewiarza, zdołał obronić dla swojej diecezji obrządek ambrozjański, który był tutaj w użyciu od niepamiętnych czasów. Kiedy za jego pasterzowania wybuchła w Mediolanie kilka razy epidemia, kardynał Karol nakazał otworzyć wszystkie spichlerze i rozdać żywność ubogim. Skierował także specjalne zachęty do duchowieństwa, aby szczególną troską otoczyło zarażonych oraz ich rodziny. Podczas zarazy w 1576 r. niósł pomoc chorym, karmiąc nawet 60-70 tysięcy osób dziennie; zaopatrywał umierających; oddał cierpiącym wszystko, nawet własne łóżko. W czasie zarazy ospy, która pochłonęła ponad 18 tysięcy ofiar, zarządził procesję pokutną, którą prowadził idąc ulicami Mediolanu boso. W 1572 r. na konklawe był poważnym kandydatem na papieża.
Ulubioną rozrywką Karola w młodości było polowanie i szachy. Był także estetą i znał się na sztuce. Grał pięknie na wiolonczeli. Z tych rozrywek zrezygnował jednak dla Bożej sprawy, oddany bez reszty zbawieniu powierzonych sobie dusz. Wyróżniał się szczególnym nabożeństwem do Męki Pańskiej. Dlatego nie rozstawał się z krzyżem. Tkliwą miłością darzył też sanktuaria maryjne.
Największą zasługą Karola był jednak Sobór Trydencki. Sobór, rozpoczęty z wieloma nadziejami, wlókł się zbyt długo z powodu złej organizacji. Trwał aż 18 lat (1545-1563). Dopiero kiedy Karol przystąpił do działania, sobór mógł szczęśliwie dokończyć obrady. Dyskutowano na nim o wszystkich prawdach wiary, atakowanych przez protestantów, i gruntownie je wyjaśniono. W dziedzinie karności kościelnej wprowadzono dekrety: nakazujące biskupom i duszpasterzom rezydować stale w diecezjach i parafiach, wprowadzono stałe wizytacje kanoniczne, regularny obowiązek zwoływania synodów, zakazano kumulacji urzędów i godności kościelnych, nakazano zakładanie seminariów duchownych - wyższych i niższych, wprowadzono do pism katolickich cenzurę kościelną, jak też indeks książek zakazanych, wreszcie wprowadzono regularną katechizację. Większość z tych uchwał wyszło z wielkiego serca kapłańskiego Karola Boromeusza. On też był inicjatorem utworzenia osobnej kongregacji kardynałów, która miała za cel przypilnowanie, by uchwały soboru były wszędzie zastosowane.
Zmarł w Mediolanie 3 listopada 1584 r. wskutek febry, której nabawił się w czasie odprawiania własnych rekolekcji. Pozostawił po sobie duży dorobek pisarski. Beatyfikowany w 1602 r., kanonizowany przez Pawła V w 1610 r. Jego relikwie spoczywają w krypcie katedry mediolańskiej. Jest patronem boromeuszek, diecezji w Lugano i Bazylei oraz uniwersytetu w Salzburgu; ponadto czczony jest jako opiekun bibliotekarzy, instytutów wiedzy katechetycznej, proboszczów i profesorów seminarium.
W ikonografii św. Karol Boromeusz przedstawiany jest w stroju kardynalskim. Jego atrybutami są: bicz, czaszka, gołąb, kapelusz kardynalski, krucyfiks; postronek na szyi, który nosił podczas procesji pokutnych.