Après ses études à la medersa, il exerça en tant que coiffeur au centre de Tlemcen ce qui lui permit de côtoyer les grands maîtres et de découvrir peu à peu leur monde. On ignore les détails de son apprentissage artistique initial mais c'est avec le cheikh Boudhalfa qu'il connut son épanouissement et sa confirmation en tant que musicien chevronné. Evoluant sous la houlette de son maître, il prit sa relève à la mort de ce dernier, s'imposant comme son digne successeur et se positionnant comme «cheikh» à une époque où la «concurrence» n'était pas des moindres avec des artistes émérites comme Cheikh Triki, Cheikh Baghdadi, etc. Dès lors, il joua un rôle grandissant dans la musique algérienne qu'il contribua à faire rayonner dans les pays arabes. En 1900, il représenta l'Algérie à l'Exposition universelle de Paris puis en 1932 au Caire, au premier congrès de musique arabe, où il fut l'un des premiers, sinon le premier, à faire découvrir au public égyptien, connu pour être mélomane, l'art musical classique algérien. En 1948, la notoriété de Cheikh Larbi Ben Sari valut d'être nommé directeur artistique de Radio Tlemcen et son travail dans ce cadre a permis de conserver de nombreux morceaux du patrimoine musical andalou d'Algérie. Dans son orchestre figurait son propre fils, Ahmed, qui devint Cheikh Redouane et qui se distinguait déjà par sa virtuosité. Il avait enregistré à partir de 1929 plusieurs disques édités par la célèbre société Grammophone et qui lui valurent un succès que certains disent aussi immense que celui de son père. En 1954, pour des raisons personnelles, il cessa de chanter puis s'exila, deux ans plus tard, au Maroc où il lançait parfois l'appel à la prière en tant que muezzin occasionnel mais fortement apprécié. Cheikh Larbi Ben Sari avait un autre fils, prénommé Mahmoud, qui, lui aussi, profita du talent de son père et se distingua comme un honorable artiste. Mais Cheikh Larbi Ben Sari, connu pour son humilité et sa générosité, ne se limita pas à ses propres enfants et transmit ainsi son savoir et son savoir-faire à de nombreux jeunes artistes. Qualifié de «père spirituel» de l'école de Tlemcen, il s'est éteint au le mois de décembre 1964, laissant une œuvre et de nombreux disciples. Les spécialistes s'accordent à reconnaître que sans lui, jamais la musique andalouse algérienne n'aurait pu se maintenir autant.
