Les IHU sont des structures dotées de la personnalité juridique, avec une autonomie budgétaire et de gouvernance. Ils sont assez différents les uns des autres, en fonction de la présence de lits hospitaliers en leur sein. Les relations avec les CHU ne sont pas toujours très bonnes, car la création d'un IHU entraîne des phénomènes de démutualisation budgétaire. Dans un certain nombre de cas, ils ont permis à des équipes ayant déjà pignon sur rue d'obtenir des moyens supplémentaires, mais ce modèle n'est pas généralisable à l'ensemble des CHU.