Kowalski aprendió a tocar el violín a los cuatro años con su padre, director de orquesta. A los siete, ya había dado numerosos recitales de violín en varias ciudades de Polonia, y fue ampliamente considerado como un niño prodigio. Empezó a estudiar música en el Conservatorio de Varsovia bajo la tutela del profesor Joseph Jarzebski —un ex alumno del famoso Leopold Auer— y viajó a París para continuar sus estudios con el violinista Jacques Thibaud.
En los años previos al estallido de la Segunda Guerra Mundial, Kowalski se destacó por sus actuaciones con Polskie Radio, la organización nacional de radiodifusión. Sus actuaciones fueron transmitidas en vivo por todo el país, y llegó a las audiencias en Alemania, Checoslovaquia, Rusia y Lituania. También interpretó música popular y canciones ligeras.
Cuando la guerra comenzó en 1939, Kowalski fue arrestado por los alemanes en Wegrow cuando se dirigía a reunirse con su familia a Brest-Litovsk. Se las arregló para escapar y conoció al gran violinista ruso Miron Polyakin, quien escribió una carta recomendándole como un artista muy talentoso. Gracias a la recomendación obtuvo su admisión en el Conservatorio de Moscú, donde continuó sus estudios con Abram Yampolsky, profesor de violín muy conocido.
Kowalski continuó actuando en la zona ocupada por los soviéticos territorio, que ahora incluía áreas de Polonia como un resultado del Pacto Molotov-Ribbentrop. En el año 1941, Alemania lanzó una invasión de la Unión Soviética. En el momento, Kowalski se encontraba en la ciudad de Lvov con un grupo de otros músicos polacos, y fue arrestado de nuevo.
Los miembros de la Gestapo lo torturaron en cautiverio y condenaron a muerte. Durante su traslado al lugar de la ejecución, Kowalski y otro interno atacaron a la guardia y escaparon. Después de vagar por un mucho tiempo, encontró refugio en una familia de campesinos cerca de Drohobych, ahora parte de la actual Ucrania. Pasó veinte meses escondido durante el día en un refugio. Después de este largo período, se unió un grupo de partisanos rusos, con quien permaneció durante el resto de la guerra.
Al final de la guerra, Kowalski viajó a Viena, donde retomó su carrera como solista. La prensa austríaca lo aclamó como un gran talentoso. Fue admirado no sólo por su virtuosismo, sino también por su capacidad para realizar dos conciertos para violín en una sola actuación: conciertos llevados a cabo principalmente con la Gran Orquesta Sinfónica de la Radio de Viena, dirigida por Carl Ettie.
En 1957, emigró a Israel con su esposa e hijo. Se convirtió en un profesor de violín en el Conservatorio de Música en Haifa, pero continuó de gira por Israel y Europa. Las críticas en la prensa israelí también le fueron favorables. Durante 1962 y 1963, Kowalski se trasladó con su familia a los Países Bajos. Allí trabajó para la Radio Nederland Orquesta de la Unión en Hilversum. Después de este período, se trasladó de nuevo a Israel, para acabar emigrando a Estados Unidos.
En abril de 1971, se estableció en Providence, Rhode Island, y tomó posición en el departamento de música de la Universidad de Brown como instructor de violín. Él y su familia recibieron la ciudadanía estadounidense en el 200 aniversario de la creación de los Estados Unidos, el 15 de julio de 1976. Siguió recibiendo reconocimiento por su talento en Estados Unidos, y el 6 de febrero de 1978, fue invitado con su esposa y otros distinguidos estadounidenses de ascendencia polaca a la Casa Blanca por el presidente Jimmy Carter. Kowalski murió repentinamente debido a una hemorragia del tracto intestinal superior, a la edad de 70, el 24 de enero de 1982, en Providence, Rhode Island.