Les communications optiques dans le spectre visible (VLC pour Visible-Light Communications) ont attiré une attention particulière depuis quelques années en tant qu’une solution prometteuse pour les réseaux sans fil à très haut-débit dans les milieux intra-bâtiment. Ainsi, cette technique exploite l’infrastructure d’éclairage basée sur les diodes électroluminescentes (LED) pour la transmission de l’information. Pour cette raison, elle offre de nombreux avantages, comparée aux techniques « classiques » basées sur les transmissions radiofréquences (RF), tels que l’existence d’une grande largeur de bande non réglementée, une sécurité de transmission intrinsèque et une immunité aux interférences électromagnétiques. Les principales contraintes liées à l’établissement d’une transmission VLC à très haut-débit dans ce contexte sont la propagation en trajets multiples et les caractéristiques non-idéales des LEDs commerciales, dites « blanches ». L'objectif de cette thèse est d'étudier l'impact réel de ces contraintes sur la transmission des données et de proposer des solutions efficaces de traitement du signal pour atténuer leurs effets. Nous commençons par étudier la réponse impulsionnelle du canal VLC grâce à l'élaboration d'un outil de simulation efficace. Nous évaluons ensuite la sélectivité en fréquence du canal de propagation en considérant différents critères, tels que la réponse fréquentielle, l’étalement temporelle du canal et le rapport signal à interférences. Dans un deuxième temps, compte tenu de la possibilité de la sélectivité en fréquence du canal et aussi la limitation de la bande passante des LEDs, nous étudions la pertinence de l'emploi de différentes techniques de transmission de signaux, notamment celle de l’OFDM optique (pour Orthogonal Frequency-Division Multiplexing) afin de garantir des débits de transmission compétitifs avec la RF. Etant donné le facteur de crête ou PAPR (pour Peak-to-Average Power Ratio) élevé des signaux modulés en OFDM et la dynamique limitée des LEDs, nous proposons ensuite un nouveau schéma de transmission basé sur la modulation CAP (pour Carrier-less Amplitude and Phase) en plus de l’égalisation dans le domaine fréquentiel (FDE pour Frequency-Domain Equalization) au niveau du récepteur. Nous analysons les performances des liaisons VLC utilisant cette technique et les comparons à l’OFDM optique, en prenant particulièrement en compte la non-linéarité des LEDs. Enfin, nous démontrons l’intérêt de l'utilisation du schéma de transmission CAP-FDE à travers des résultats expérimentaux.