Nacido en Holanda, está considerado como uno de los más eminentes especialistas en el campo de la música antigua, tanto en el aspecto práctico como en el teórico. Creció en un ambiente familiar donde la música era habitual y desde el principio se interesó por el órgano y clave. Tras acabar sus estudios secundarios se trasladó a Suiza, a la Schola Cantorum Basilensis, donde continuó bajo la dirección de Eduard Müller. En 1952 fue nombrado profesor de musicología y clave en la Ecademia de Música de Viena, cargo que desempeñó hasta 1955. Posteriormente impartió clases en el conservatorio de su ciudad natal, Ámsterdam, y obtuvo el puesto de organista de la Nieuwe Kerk. Desde 1950 ha venido desarrollando una intensa actividad como solista de clave y órgano, dando recitales por toda Europa, Norteamérica, Japón, Australia y Suramérica. Ha grabado más de ciento ochenta discos para diversas casas discográficas (Philips, Harmonia Mundi, Sony, BMG, Alpha). Como musicólogo ha publicado un detallado estudio sobre El arte de la fuga de J.S. Bach. Asimismo ha revisado las ediciones de las obras para teclado de Sweelinck y de Frescobaldi. En 1967 interpretó el papel de Johann Sebastian Bach en la película de Jean-Marie Straub Crónica de Ana Magdalena Bach. Desde 1969 ocupa una cátedra en la Universidad de Harvard en los Estados Unidos. Tan extensa como su carrera de solista es su actividad como director al frente de las principales agrupaciones de instrumentos originales, de las que ha sido un constante inspirador, como La Petite Bande, The Orchestra of the Age of Enlightenment y Freiburger Barockorchester. Ha dirigido representaciones de óperas de Claudio Monteverdi y Jean-Philippe Rameau y en colaboración con Nikolaus Harnoncourt ha grabado la totalidad de las Cantatas de Bach. En 1980 recibió el Premio Erasmus que se otorga en Europa, y en 1983, 1984 y 1991 recibió sendos doctorados Honoris Causa por las universidades de Harvard y Padua.