La Cour de Cassation, comme le Conseil d'Etat, sont issus de l'ancien Conseil du Roi et les Cours d'appel sont issues des anciens Parlements. Antérieurement à la période révolutionnaire, les juges des Parlements portaient le titre de "Conseillers" : Montaigne et Montesquieu ont été Conseillers au Parlement de Bordeaux. Ce titre a été conservé au cours de la période impériale et même lors du rétablissement de la République, pour désigner les magistrats des Cours d'appel. Il n'existait pas de Cour de cassation sous la royauté, lors de sa création les magistrats de cette juridiction, de même que les magistrats des Cours d'appel, ont reçu le titre de "Conseillers".
Au sein des Cours d'appel, le titre de "Conseiller" est attribué aux magistrats affectés à une Chambre, ils sont les assesseurs du magistrat qui a un grade hiérarchique supérieur au leur, auquel la Loi donne le titre de "Président de Chambre". Les Cours d'appel sont constituées par l'ensemble des Chambres que préside le "Premier Président". Cette terminologie est aussi appliquée à la hiérarchie des magistrats composant la Cour de Cassation.
Les Conseillers référendaires sont des magistrats temporairement affectés à la Cour de Cassation qui sont nommés pour fournir des aides à la décision, ils siègent sans voix délibérative. En revanche lorqu'ils sont appelés à rapporter une affaire à l'audience de la Cour où lorsqu'un Conseiller est absent et que le nombre de magistrats est insuffisant pour prendre une décision valable et qu'alors, ils completent la Chambre à laquelle ils sont affectés, ils siègent alors avec voix délibérative. Le decret n° 2008-818 du 21 août 2008 a institué des avocats généraux référendaires devant le Cour de casation.
Les personnes qui siègent aux Conseils de prud'hommes sont désignés du nom de " Conseillers prud'hommes ", parfois nommés aussi " Prud'hommes".