Començà a estudiar música al seu poble natal, i amplià la seva formació amb Antoni Nicolau i Joan Lamote de Grignon a Barcelona. Amb nou anys d'edat obtingué un primer premi en un concurs de violí a Vic, i deu anys més tard guanyà tres premis en el concurs de Cançó Popular Catalana que es va fer al Palau de la Música Catalana. Es presentà, amb èxit, a les oposicions per director del Conservatori de Música de Manresa i el 1908 va ser nomenat director de l'Orfeó Manresà; en la capital del Bages fundà, a més, les sessions musicals Hores d'Art, que oferien concerts en el conservatori. Entre molts altres futurs músics, tingué per alumne el prolífic compositor de l'Ametlla de Merola Josep Conangla i Escudé. Gràcies a una beca de l'ajuntament manresà, Pecanins pogué estudiar a Alemanya, França i Suïssa; a Hellerau, vora Dresden, descobrí la Gimnàstica Rítmica en uns cursos que hi impartia Jacques Dalcroze. De tornada a Catalunya posà el mètode Dalcroze en pràctica a l'Orfeó Manresà, en una forma similar a com Joan Llongueres ho féu a Barcelona; dues dècades més tard, Pecanins es veié involucrat en la polèmica pedagògica que en l'any 1932 protagonitzaren Llongueres i Manuel Borgunyó, a favor i en contra respectivament de la gimnàstica rítmica en l'educació musical.
S'establí més endavant a Terrassa, on del 1911 al 1918 dirigí l'Escola Choral, que havia estat fundada per Joan Llongueres el 1902. En l'any 1918, Pecanins va ser membre fundador de la Germanor dels Orfeons de Catalunya: el moviment s'havia començat a iniciar dos anys abans, el 1916, quan el mestre Joan Balcells va fer a La Veu de Catalunya una crida pública a fi d'homenatjar Lluís Millet i Pagès en el vint-i-cinquè aniversari de l'Orfeó Català. En Pecamins s'hi adherí immediatament, i juntament amb en Balcells, Joan Llongueres, mossèn Baldelló i Enric Gibert, formà la comissió organitzadora de la Festa dels Orfeons de Catalunya que se celebrà a Barcelona el 27 de maig del 1917. Pecanins obrí l'acte amb un discurs davant de les altes dignitats que s'hi aplegaren i, posteriorment, s'integrà en el Consell Permanent que estigué al darrere dels aplecs que es feren en els anys següents. En l'any 1918 passà a regir a l'Escola de Música de Terrassa on també va fer de professor de piano, harmonia, contrapunt i composició. Es mantingué al capdavant de l'escola fins al 1925, quan Joaquim Pecanins i un gran nombre de professors dimitiren a causa de les circumstàncies polítiques de l'època. Tot seguit, els dimissionaris amb l'ajut del patrici egarenc Emili Badiella crearen el Conservatori de Música de Terrassa, que Pecanins dirigí fins al seu tancament el 1936. Tingué de subdirector un altre gran pedagog, Josep Cumellas i Ribó i col·laboraren en l'ensenyament professors com Joan Soler, Joan Tomàs, Emili Renalies i Beneta Trullàs. Al redós del centre es formà una important orquestra de corda.