L’étape préliminaire à l’étude d’un caractère quantitatif est la modélisation statistique des observations, c’est-à-dire la représentation mathématique d’une réalité biologique, cohérente avec le modèle génétique. Ce modèle décrit très généralement chaque observation comme étant la somme d’effets du milieu et d’effets génétiques. Différentes façons de modéliser chacune de ces parties sont possibles en fonction des objectifs de l’étude, et ont des conséquences diverses sur les hypothèses requises pour l’obtention de résultats fiables. Ainsi, il est essentiel d’inclure dans l’analyse uniquement les facteurs du milieu ayant un effet important sur la performance observée, mais sans en omettre aucun. On peut ne faire intervenir dans la partie génétique du modèle que des animaux apparentés aux animaux "auteurs" des observations. Des simplifications importantes notamment calculatoires peuvent en découler, mais les résultats peuvent alors être fortement biaisés si certaines hypothèses qu’il faut faire ne sont pas vérifiées. Enfin, selon qu’une connaissance a priori des caractéristiques statistiques des effets est disponible et utilisée, il est possible de distinguer trois types de modèles (à effets fixés, aléatoires ou mixtes) auxquels correspondent des méthodes différentes d’estimation des paramètres étudiés.