Urodził się 10 stycznia 1856 w Olecku w niemieckojęzycznej rodzinie. Przez całe życie poszukiwał swojej tożsamości narodowej. Z pochodzenia Mazur, z zawodu aptekarz, z zamiłowania folklorysta, wydawca tygodnika “Mazur”, historyk regionalny. Jan Karol uczęszczał do szkoły w Olecku, a od roku 1869 do niemieckiego gimnazjum w Ełku; za nieprzestrzeganie regulaminu został z tej szkoły usunięty na rok przed maturą w 1874. Po odbyciu służby wojskowej przyuczał się do zawodu aptekarza w Olecku i w roku 1880 został pomocnikiem aptekarskim w Kłajpedzie. Tam ożenił się z Karoliną Szliczkus, zgermanizowaną Litwinką.
W Kłajpedzie (ok. 1880 r.) obudziło się w nim poczucie przynależności do Polski. W liście do Wojciecha Kętrzyńskiego pisał:
“W domu rodzicielskim mówiłem tylko po niemiecku, wykształciłem się w niemieckim gimnazjum w Ełku i choć tam miałem sposobność trochę nauczyć się polskiej gramatyki, mimo tego byłem w taki sposób germanizowany, że myślałem i czułem po niemiecku, Polakami pogardzałem i prawie nic nie umiałem po polsku. Przed trzema laty (w 24. roku życia mego) w dziwny sposób, którego tu opisywać nie mogę, przyszedłem nagle do przekonania: jesteś Polakiem! a od tej chwili starałem się zupełnie i we wszystkim być Polakiem. Zgermanizowane nazwisko moje Sembritzki oczyściłem i piszę się teraz Sembrzycki. Bez nauczyciela, tylko z gramatyki i słownika, nauczyłem się języka ojczystego”.
Podobno motywem decydującym o przebudzeniu się jego świadomości narodowej była znajomość z Jadwigą Chmielewską, wiejską dziewczyną, która opowiadała mu o nędzy ludu mazurskiego i tragicznych losach własnej rodziny.
Angażował się wówczas bardzo w krzewienie języka polskiego, podobnie jak Mrongowiusz i Kętrzyński domagał się równouprawnienia języka polskiego na Mazurach. Pisał:
“Widziałem jak lud powoli ginie z powodu braku oświaty. Jako przyczynę tego braku uznałem, że nikt ludzi nie oświeca w ojczystym języku”.
Swoje poglądy prezentował między innymi w “Dzienniku Poznańskim”, “Warcie” i “Gońcu Wielkopolskim”. Interesował go szczególnie folklor mazurski. Opracowywał hasła do Słownika geograficznego Królestwa Polskiego i Encyklopedii Orgelbranda. Od listopada 1883 sam zaczął wydawać tygodnik “Mazur”, w którym wielokrotnie agitował w obronie języka polskiego. Upowszechniał czytelnictwo książek polskich, założył pierwszą bibliotekę ludową na Mazurach, w Olecku, która liczyła 44 książki. Nieustanna polityka germanizacyjna oraz kłopoty finansowe spowodowały, że Sembrzycki zmniejszył swoją aktywność wydawniczą, a w jego piśmie “Mazur Wschodnio-Pruski” pojawiały się hasła konserwatywne i lojalistyczne.
Na drugą połowę lat 80. XIX wieku przypadł kryzys poczucia polskości Sembrzyckiego. Niezależnie od zmiany poglądów Sembrzycki do końca życia pozostał przekonany o konieczności utrzymania języka polskiego na Mazurach. Spośród ówczesnych prac etnograficznych Sembrzyckiego można wymienić m.in.: O gwarze Mazurów pruskich (1889), Przyczynki do charakterystyki Mazurów Pruskich (1890).
W 1894 Sembrzycki osiadł na stałe w Kłajpedzie. Obok pracy zawodowej w aptekarstwie poświęcił się dalszym badaniom naukowym, obejmującym szczególnie historię Mazur i Litwy Pruskiej oraz miejscowy folklor. W 1899 powrócił do formy nazwiska “Sembritzki”. Jubileusz 25-lecia swej pracy pisarskiej w 1911 roku obchodzi w gronie niemieckich przyjaciół. Niektórzy współcześni fakt ten uznali za odstępstwo i skłonni byli go potępiać. Nie jest to pogląd całkiem słuszny. Spośród inteligencji mazurskiej swego pokolenia on jeden chciał połączyć sprawę mazurską z dążeniami całego narodu polskiego. W tym duchu pracował bezkompromisowo wbrew politycznym celom władz pruskich i wobec dużej obojętności i niewiedzy społeczeństwa z innych dzielnic Polski, które nie udzieliło mu w krytycznej sytuacji wsparcia moralnego i finansowego. Zmarł 8 marca 1919 w Kłajpedzie. Tam też został pochowany.
Jego śmierć w świeżo odrodzonej Polsce przeszła niepostrzeżenie. Zabrakło na jego mogile biało-czerwonej wiązanki, mimo że żywa wciąż była pamięć jego dziesięcioletniej walki o polskość Mazur i że publikacje o Mazurach walkę tę wymieniały jako doniosły czynnik w kształtowaniu świadomości narodowej Mazurów. Żywot J. K. Sembrzyckiego nosi znamiona tragizmu, gdyż w ówczesnej sytuacji politycznej ofiarna działalność społeczna młodego farmaceuty z Olecka skazana była niejako z góry na niepowodzenie.