La sérotonine ou 5-hydrotryptamine (5-HT) est un messager chimique du système nerveux central intervenant dans de nombreuses fonctions physiologiques. 

Les fonctions physiologiques impliquant la sérotonine
 

Les fonctions physiologiques impliquant des neurones à sérotonine

La sérotonine est synthétisée par un groupe de neurones spécifiques qu'on appelle pour cette raison neurones sérotoninergiques. Une baisse de l'activité de ces neurones, et donc de la transmission sérotoninergique centrale, serait associée à certaines formes de dépression (en particulier celles conduisant à l'acte suicidaire). 
 

La localisation des neurones sérotoninergiques dans l'encéphale

Les corps cellulaires des neurones sérotoninergiques sont rassemblés en plusieurs (9) noyaux représentés en vert sur l'image. 

Les noyaux du raphé magnus, pallidus et obscurus contiennent des neurones dont les axones se terminent dans la moelle épinière. (voir dossier contrôle descendant de la douleur) 
Les noyaux du raphé dorsal et médian sont composés de neurones dont les fibres se terminent dans de nombreuses régions du cerveau antérieur et en particulier au niveau des structures limbiques impliquées dans les émotions. (cerveau dit "affectif") c'est à dire le cortex préfrontal, le septum, l'hippocampe, l'hypothalamus, le thalamus et les noyaux amygdaliens). 
 Les fibres issues des noyaux du raphé dorsal et médian représentent  quasiment la seule source de sérotonine dans les parties antérieures du système nerveux central. 

La sérotonine est libérée par les neurones sérotoninergiques au niveau : 

• des terminaisons axonales : la libération est fonction de l'arrivée de PA au niveau du bouton synaptique. La 5-HT agit sur le neurone post-synaptique. 

• des corps cellulaires : la libération est alors, pour l'essentiel, indépendante de l'état électrique du neurone. Elle agit sur le neurone présynaptique lui même. 

Elle dispose de récepteurs spécifiques sur plusieurs cibles. Selon la nature de ces récepteurs,  la sérotonine déclenche des effets différents. Dans tous les cas la sérotonine active le récepteur mais une fois activé, celui-ci peut provoquer une excitation ou une inhibition du neurone qui le porte. 

Les récepteurs postsynaptiques de la sérotonine
on a dénombré une quinzaine de récepteurs que l'on peut regrouper en 3 types fonctionnels: 

• les récepteurs 5-HT ₁ (comprenant 5-HT_1A, 5-HT_1B , 5-HT_1D , 5-HT_1E et 5-HT _1F ) 

Ils ont une très forte affinité pour la sérotonine.( quelques nanomoles soit quelques milliardièmes de mole suffisent) 
 

Mode d'action de la sérotonine sur le récepteur  5-HT1 :  fixation de la sérotonine (rond bleu) dans le récepteur transmembranaire postsynaptique (vert)  modification de la configuration spatiale du récepteur  la modification de configuration active la protéine G (rouge)  ouverture du canal potassium (rose) sous l'action de la protéine G activée  flux sortant de K+ (gris)  Les ions K+  quittent en masse le neurone postsynaptique, ce qui augmente la charge négative intracellulaire. Cela provoque une hyperpolarisation de la membrane postsynaptique.

L'hyperpolarisation de la membrane postsynaptique empêche la propagation des messages nerveux :  la sérotonine est dans ce cas un messager chimique inhibiteur. Le neurone postsynaptique est mis au repos. 

Les récepteurs 5-HT₂ :
Ils ont une affinité moins grande pour la sérotonine ce qui fait que la 5-HT se fixe sur ces récepteurs quand les autres récepteurs (5-HT₁) sont saturés. 
 

Mode d'action de la sérotonine sur le récepteur 5-HT2 :  fixation de la sérotonine (rond bleu) dans  le récepteur (violet)  activation de la protéine G (rouge)  fermeture du canal K+ (rose) sous l'action de la protéine G activée  Les ions K+ s'accumulent en intracellulaire et la différence de potentiel de part et d'autre de la membrane diminue. Le seuil d'excitabilité du neurone est abaissé et les décharges sont facilitées.   Dans ce cas la sérotonine agit comme messager chimique excitateur .

Plusieurs autres récepteurs (5-HT₄, 5-HT₅ , 5-HT₆, 5-HT₇) ont été identifiés qui tous fonctionnent selon le même mode, avec une protéine G et un effectuer final (canal ionique ou enzyme membranaire)
 

• Les récepteurs 5-HT ₃ : 

C'est une protéine canal ionique. (récepteur -canal ou ionotropique) 
 

Mode d'action de la sérotonine sur le récepteur 5-HT3 : fixation de la sérotonine (bleu) sur le récepteur (vert)  ouverture du canal  entrée massive d'ions Na+ (bleu clair)  L'entrée de Na+ dépolarise la membrane postsynaptique favorisant les décharges.

En ce qui concerne le récepteur 5-HT₃ la réaction est déclenchée en quelques fractions de secondes : l'ouverture est quasi immédiate. Dans ce cas la sérotonine joue le rôle de neuromédiateur .Elle transmet un signal susceptible de déclencher la propagation d'un nouveau message nerveux. 
Au contraire, dans le cas des récepteurs couplés aux protéines G, la réaction est plus lente et le signal n'engendre pas de PA mais il modifie la polarisation de la membrane. La sérotonine est alors un neuromodulateur . 

Les récepteurs de la sérotonine sur le corps cellulaire et les dendrites des neurones sérotoninergiques : 
Il s'agit de récepteurs du type 5-HT₁ c'est à dire inhibiteur . On les appelle des autorécepteurs . 

Ils fixent la 5-HT quand la concentration extracellulaire de la sérotonine atteint une valeur seuil. La fixation hyperpolarise la membrane et donc inhibe la propagation des messages nerveux par le neurone . La lisérotoninergiquebération de la sérotonine au niveau de la terminaison axonale diminue voire s'annule. 

C'est donc la diversité des récepteurs qui explique qu'une seule et unique molécule puisse avoir des effets multiples.

Analyse des cas de dépression grave avec passage à l'acte suicidaire
Plusieurs résultats ont été observés: 

• les concentrations du métabolite (produit de dégradation) principal de la sérotonine, l'acide 5-hydroxyindole acétique dans le liquide céphalorachidien des patients dépressifs sont plus faibles que dans la population générale. 

• la concentration du transporteur membranaire qui assure le recaptage de la sérotonine  dans les neurones sérotoninergiques semble plus faible chez certains déprimés, mais cette observation est très controversée. 

• la densité des récepteurs 5-HT₂  semble supérieure dans le cortex des personnes  qui se sont suicidées. Cette anomalie serait une réaction à une libération insuffisante de sérotonine dans la fente synaptique. 

Dans le système nerveux central, la sérotonine agit sur diverses populations neuronales (à noradrénaline; dopamine; GABA;  neuropeptides comme la substance P; enképhalines;  cholécystokinine; neurotensine; cannabinoïdes; etc.) ) de telle sorte qu'une  perturbation des neurones sérotoninergiques (comme chez certains déprimés) entraîne des modifications de nombreux réseaux de neurones et des fonctions qu'ils contrôlent (rythme veille-sommeil, prise alimentaire, nociception, activité psychomotrice, capacité de "self contrôle", etc.)