Encouragé par son ami le peintre français Paul de Lassence, Duplain fonde à La Chaux-de-Fonds, en 1925, le groupe La Syrinx. Celui-ci réunit des artistes (René Mayer, Paul de Lassence, Alexandre Girod, Jean Chapin, Charles Barraud, W. Fluckiger, C. Vogt, etc.), des compositeurs (Georges Mayer, Georges-Louis Pantillon, Adrien Calame, etc.), des écrivains et des poètes jurassiens, ainsi que quelques artistes et écrivains genevois (Wilfred Chopard, Rodo Mahert, Werner Renfer, Gustave Kahn, Louis-Charles Baudouin, Jean Bard, Henri Mugnier, Paul Jeanneret, etc.).
Le nom du groupe fait référence à la nymphe grecque Syrinx, courtisée par Pan. Fuyant les attentions du dieu, la nymphe se transforme en roseau. Pour se consoler, Pan coupe quelques roseaux, les assemble et fabrique la première flûte de Pan, appelée aussi « syrinx ». A l’image de cette flûte, ces artistes se veulent les organes d’un nouveau chant, d’un nouvel art, un art jurassien. Ils souhaitent exprimer la réalité régionale jurassienne, marquer sa différence face aux créations lémaniques.
Les activités du groupe sont multiples, ses membres visant à une expression totale de l’art. De 1924 (ou 1925) à 1932, onze expositions de La Syrinx se tiennent au Musée des Beaux-Arts de La Chaux-de-Fonds : peinture, sculpture, arts décoratifs, instruments de musique. Chaque vernissage est accompagné d’un récital littéraire et musical. Les artistes fédèrent leurs différents travaux autour d’une revue, intitulée Les Feuillets, et montent des pièces de théâtre.
Editée et financée par Duplain, cette revue au tirage modeste – 170 exemplaires pour le deuxième numéro – paraît chaque année à Pâques de 1926 à 1934. Chacun des neuf cahiers se présente avant tout comme un objet visuel. Les numéros sont composés de feuillets détachables, ce qui permet aux pages de musique d’être considérées comme des partitions, aux estampes d’être affichées et aux textes de vivre pour eux-mêmes. La mise en page suit un même propos décoratif. Les interventions artistiques n’ont pas de thématiques communes, ce sont les caractères typographiques qui donnent à chaque cahier son individualité et unissent les différentes œuvres. Aucune chronique, aucune étude analytique ou réflexive, aucun compte-rendu, aucune présentation des artistes ; le but est de laisser parler l’œuvre seule. Les Feuillets s’affirme comme une production du terroir. Duplain souhaite offrir à ses lecteurs « une modeste gerbe de fleurs du pays. »
Duplain élargit son entreprise éditoriale en publiant des textes des membres du groupe par le biais de sa maison d’édition, La Syrinx : Profils (1927) de Werner Renfer, Zéro (1930) de Jean Bard, Arbres (1933) de Louis-Charles Baudouin, Instant (1933) de Roger-Louis Pillet. Il illustre également ces publications avec des gravures ou des xylogravures d’une grande finesse. Duplain avait déjà démontré ses talents d’illustrateur dans BB et dans L'écolière de Magali Hello, publiés aux éditions Attinger en 1925, et dans des recueils de poésie.
En 1929, Duplain, Werner Renfer, et Fritz Rosenberg conçoivent une œuvre d’art totale, un divertissement théâtro-musical : La fête au village. Werner assure les textes, Duplain les décors et plus de 300 costumes, Fritz Rosenberg la musique. Le spectacle est joué à trois reprises à l’occasion de la 7ème Fête cantonale bernoise de musique à Saint-Imier, du 20 au 23 juillet 1929. Duplain réalisera des costumes et des décors pour d’autres pièces de théâtre, comme en atteste son affiche pour la pièce Grimace de Jean Bard en 1929.