Dans le contexte de l’utilisation des microalgues pour la bioremédiation d’effluents et la production de biomasse d’intérêt industriel, la stabilité et les performances des systèmes de production sont des enjeux majeurs. Une des voies de recherche privilégiées est la mise à profit de la diversité des microalgues en assemblages (polycultures) pour l’amélioration des performances de la production. Néanmoins, l’exploitation de ces assemblages complexes en système ouvert extérieur est sujette à divers stress biotiques (microalgues indésirables ou bactéries compétitrices) et abiotiques (limitation des ressources, notamment l’azote et la lumière) qui influencent les interactions au sein des assemblages, rendant difficiles la prédiction et l’optimisation de la production. L’objectif de la présente thèse est de proposer des méthodes et des outils permettant de comprendre, prédire et optimiser la production de biomasse d’un assemblage algal (consortium microbien naturel ou artificiellement composé) sous la fluctuation des ressources et des conditions de culture. Plus particulièrement, nous avons développé des modèles mathématiques basés sur des systèmes dynamiques, qui peuvent être confrontés à des expériences en laboratoire et à l’échelle-pilote. Les premiers travaux de cette thèse ont consisté à choisir une méthode expérimentale pour la caractérisation de la vitesse de croissance spécifique des microorganismes photosynthétiques en fonction de la ressource limitante. Par ailleurs, une nouvelle méthode d’estimation fonctionnelle est proposée produisant deux courbes de croissance qui encadrent les données de vitesse de croissance et permettant ainsi des estimations dynamiques des variables d’état par intervalles garantis. Dans un deuxième temps, la nature des interactions entre deux microalgues Chlorella sorokiniana et Scenedesmus pectinatus, qui se succèdent classiquement dans les bassins extérieurs utilisés pour le traitement des eaux usées urbaines, a été caractérisée en fonction de la fluctuation des différentes formes de l’azote (NH+4/NH3) et ensuite de la lumière disponible. Les modèles mathématiques associés aux expérimentations menées au cours de cette thèse ont permis de démontrer que le développement initial d’une espèce microalgale de type opportuniste, plus résistante aux fortes teneurs en NH+4/NH3 était nécessaire pour que puisse s’établir ensuite une espèce microalgale plus efficace vis-à-vis de la faible lumière disponible dans ces procédés très turbides. Dans un troisième temps, nous avons exploré les interactions paradoxales qui existent entre les microalgues et les bactéries hétérotrophes. En effet, les microalgues stimulent, à travers l’exsudation du carbone, leurs compétiteurs pour une ressource commune : l’azote ou le phosphore. Nous avons étudié l’influence de ce phénomène en proposant un modèle dynamique en dimension quatre. L’analyse mathématique a révélé l’unicité de l’équilibre de coexistence et la robustesse de l’installation des bactéries, car il a été démontré que l’équilibre en absence de bactéries est répulsif. Nous montrons que lorsque la concentration de la ressource minérale alimentant en continu le bioréacteur est suffisamment grande, il existe des valeurs du taux de renouvellement du réacteur pour lesquelles il y a coexistence, alors que les bactéries ne pourraient pas se développer en l’absence de microalgues dans ces mêmes conditions opératoires. Enfin, il a été montré à l’aide de simulations que lors de la coexistence, leur biomasse respectives peut osciller. Ces résultats témoignent de la complexité des interactions biotiques, fournissent des méthodes applicables à d’autres organismes modèles permettant de les étudier, et soulèvent des possibilités d’application prometteuses pour l’optimisation et le contrôle des systèmes dynamiques de procédés pour les travaux futurs.