Nacido en Zlowicz (Bohemia) en 1742 según Anna Tuhackova, fue reconocido en su época como gran arpista y compositor. Como era habitual en su época, desde muy temprana edad recibió de su padre una educación musical. Posteriormente le envió a Viena a perfeccionar la trompa, donde se decantó por el arpa, instrumento que había tocado su madre. En París, donde cambiaría su nombre de pila por el de Jean Baptiste, estudió arpa con Hochbrucker, y aunque en diferentes biografías se dice que también  estudió con Mathias Haynd, no ha sido probado. En la década de 1770 ya debía tener un alto nivel de ejecución, a tenor del éxito alcanzado en un concierto ofrecido en Viena en 1772. Alumno de  composición de F. J. Haydn, dio un giro a las composiciones para arpa, ya que hasta este momento, las composiciones apenas daban importancia a la mano izquierda, relegándola a la ejecución de octavas y acordes. Krumpholtz fue el primero en escribir desarrollos para esta mano llegando casi a igualarla con la derecha.
Antes de 1777, había compuesto al menos tres conciertos para arpa que se cree «inspiraron» a Mozart tras escucharlo en alguno de sus conciertos en Viena. Está documentado el mecenazgo que sobre él ejerció el príncipe Esterhazy entre 1773 y 1776 y es probable que fuera Krumpholtz quien interpretara la parte del arpa en el estreno de Orfeo y Euridice de Gluck. En 1776 comenzó una gira de conciertos que le llevaron desde Dresde a Coblenza pasando por las muy prestigiosas Leipzig y Frankfurt. Metz será una ciudad de gran importancia en su vida. Unos dicen que llegó aquí en gira de conciertos, otros que a trabajar con el fabricante de instrumentos y editor Christian Stekler. Tampoco está claro el apellido de soltera de la futura señora Krumpholtz. Para unos era Anne-Marie Stekler y para otros se apellidaba  Meyer. Lo que parece ser seguro es que Krumpholtz fue su profesor de música y de arpa y que, aunque era una niña, demostró tener grandes cualidades musicales, en especial por el arpa. Contrajeron matrimonio cuando cumplió los 16 años. Su llegada a París queda constatada por el estreno en los «Conciertos Espirituales» (1778), de su Concierto para Arpa en Si bemol, Op.7. Allí se dio a conocer por sus composiciones y por su habilidad para la enseñanza, convirtiéndose en el maestro de arpa de moda.
Preocupado por perfeccionar el arpa, entró en contacto con Naderman a quien le hizo partícipe de sus ideas. Posteriormente Naderman presentaría el 21 de noviembre de 1787 en la Academia de las Ciencias de París, un arpa de movimiento simple (de patillas), fabricada según las sugerencias de Krumpholtz, que contaba además con un octavo pedal apagador. También tuvo gran influencia sobre Erard y Cousineau.
Poco tiempo después, la esposa de  Krumpholtz cuyo talento era superior al de su marido y levantaba la más viva admiración, comenzó una gira de conciertos por Inglaterra acompañada por un joven admirador, con quien establecería una relación sentimental que hizo que abandonase a su marido.
Esto, junto con el descalabro económico que sufría por esos años le precipitó al suicidio, arrojándose al río Sena el 19 de febrero de 1790. Fue un prolífico compositor de piezas para arpa, a solo, en concierto junto a otros instrumentos y en diversas combinaciones de música de cámara como las presentes Sonatas op. 8, para arpa con acompañamiento obligado de violín o flauta, que fueron publicadas en París hacia 1780.