Le juge de l’application des peines (JAP) est chargé de déterminer les modalités du traitement pénitentiaire de chaque condamné. Il peut ordonner, modifier, ajourner ou révoquer les mesures de sursis probatoire, de permission de sortie, d'aménagement de peine (semi-liberté, surveillance électronique, libération conditionnelle, etc.).

Le JAP possède une compétence territoriale qui s’étend aux établissements pénitentiaires se situant dans le ressort de son tribunal judiciaire, ainsi qu’aux condamnés en milieu ouvert résidant habituellement dans ce ressort. La plupart de ses décisions sont rendues à juge unique, mais l'aménagement des peines les plus lourdes relève de la compétence d'un tribunal d’application des peines composé de trois JAP.

Pour assurer ces diverses missions, le JAP peut procéder, sur l’ensemble du territoire national, à des actes d’enquête et mandater des travailleurs sociaux. Il a également la possibilité de décerner des mandats (d’amener ou d’arrêt), afin de s’assurer de la présence d’un condamné qui ne respecterait pas ses obligations ou serait en fuite.

À l’exception de certaines mesures (réduction de peine et permission de sortie), les décisions du JAP sont rendues à l’issue d’un débat contradictoire tenu en chambre du conseil, au cours duquel le procureur, le condamné et son avocat sont entendus. Les décisions du JAP sont susceptibles d'appel devant la chambre de l'application des peines de la cour d'appel.

Le JAP est assisté dans sa mission par :

• le service pénitentiaire d’insertion et de probation (SPIP), chargé du suivi et du contrôle des obligations des personnes condamnées faisant l'objet d'une peine restrictive de liberté, en milieu ouvert ou en milieu fermé. Sa mission comprend la prévention de la récidive (commission d'une nouvelle infraction après une première condamnation) ; 
• la commission d’application des peines, présidée par le JAP, dont le procureur de la République, le chef d’établissement pénitentiaire et un représentant du SPIP sont membres (entre autres). Il s'agit d'un organe consultatif instauré au sein de chaque établissement pénitentiaire qui donne son avis avant que soient prises certaines décisions en matière d'application des peines.