Harboe blev født i Kristiania (Olso) i 1648. I 1665 blev han indskrevet ved københavns tøjhus for at blive udlært som fyrværker. I 1669 rejste han som fyrværker og officer til England og senere videre til Holland for at uddanne sig yderligere. Ved den skånske krigs udbrud i 1675 var han artillerikaptajn i hollansk tjeneste, men blev hjemkaldt.

1676 udnævnt til Major og 1677 til oberstløjtnant. I krigen i Skåne deltog han i erobringen af flere af de svensk besatte byer. I 1679 fik han kommandoen over artilleriet i Holsten, der blev stærkt udvidet og omorganiseret under hans ledelse, og han konstruerede flere moderne skytstyper - de såkaldte harboske systemer. 1682 udnævnt til oberst og i 1690 til kommandant i Glückstadt. 1693 udnævnt til generalmajor.

1700 udnævnt til chef for infanteriet i det korps der blev sendt til Sachsen og senere til Østrig. Blev derefter sendt til Flanderen hvor han deltog i forskellige kampe indtil 1704, hvor han blev chef for det danske hjælpekorps i østrigsk tjeneste. Her fik han genopbygget korpset efter de hårde kampe i Ungarn og deltog med korpset i feltogene i Ungarn i 1705 og 1706. I juli 1706 blev han dræbt af et vådeskud fra en dansk vagtpost.