Według św. Ireneusza (+ 202), Polikarp był uczniem św. Jana Ewangelisty. Tertulian i św. Hieronim przekazali nam informację, że św. Jan Apostoł ustanowił swojego ucznia, Polikarpa, biskupem w Smyrnie (dzisiejszy Izmir), w Małej Azji. Około roku 107 św. Ignacy z Antiochii napisał piękny list do Polikarpa, kiedy był wieziony okrętem do Rzymu, by tam ponieść śmierć męczeńską, i zatrzymał się w Troadzie. W liście tym Ignacy oddaje Polikarpowi najwyższe pochwały, kiedy go nazywa dobrym pasterzem, niezłomnym w wierze i mężnym atletą Chrystusa. Takim przedstawiają go wszystkie świadectwa. Wiemy, że ok. 155 r. Polikarp przybył do Rzymu, by z papieżem Anicetem prowadzić rozmowy ustalające termin obchodzenia Wielkanocy. Świadczy to o wysokiej pozycji biskupa Smyrny.

Według relacji pierwszego historyka Kościoła, Euzebiusza z Cezarei Palestyńskiej, Polikarp miał rządzić Kościołem w Smyrnie przez około 60 lat i ukoronować życie śmiercią męczeńską. Miał ponad 86 lat, kiedy oskarżono go o lekceważenie pogańskiej religii i jej obrzędów, jak też zwyczajów. Oskarżono go przed namiestnikiem (prokonsulem) rzymskim, Stacjuszem Kodratosem. Na oskarżenia Polikarp odpowiedział: "Osiemdziesiąt sześć lat służę Chrystusowi, nigdy nie wyrządził mi krzywdy, jakżebym mógł bluźnić memu Królowi i Zbawcy?" Kiedy zaś sędzia groził Świętemu, że go każe spalić żywcem, Polikarp odparł: "Ogniem grozisz, który płonie przez chwilę i wkrótce zgaśnie, bo nie znasz ognia sądu, który przyjdzie, i kary wiecznej". Stacjusz skazał Polikarpa na śmierć przez spalenie na stosie. Gdy zaś płomienie nie chciały się imać męczennika, zginął od pchnięcia puginałem. Działo się to na stadionie w Smyrnie 22 lutego, najprawdopodobniej w 156 r., choć podaje się okres pomiędzy rokiem 155 a 169. Polikarp pozostawił po sobie cenny list do Filipian - świadectwo tradycji apostolskiej. Innym ważnym pomnikiem literatury starochrześcijańskiej jest opis jego męki (Martyrium Policarpi).

W ikonografii św. Polikarp przedstawiany jest jako męczennik lub jako biskup. Wzywany do obrony przed czerwonką i bólem ucha.