Les organisations non gouvernementales (ONG) ne sont pas le produit d’un processus démocratique (l’élection), et leur légitimité ne fait pas l'objet d'une reconnaissance officielle. C'est le lien avec la société civile dont elles sont censées représenter certains intérêts qui constitue l’élément principal de leur légitimité.
La légitimité des ONG dépend donc dans une large mesure de la perception que la société peut avoir de leur action, de leur fonctionnement et de leur efficacité. Ainsi, leur légitimité naît du soutien ou de l’adhésion des individus à leur action. C’est en fonction de cette adhésion plus ou moins explicite de la population que va également pouvoir être évaluée leur représentativité.
Le maintien de la crédibilité et de la légitimité des ONG passe notamment par la démonstration des impacts positifs et des effets concrets des actions qu'elles mènent.
Les ONG se légitiment progressivement selon leurs actions et leurs choix par rapport au but qu’elles se sont assigné. Leur légitimité demeure donc fragile puisqu’elle dépend de leurs réussites, de leurs échecs ou de tout autre problème de fonctionnement.
Même si certaines ONG anciennes bénéficient d’un a priori plutôt favorable auprès de la population, une action mal planifiée aussi bien que des dérives humaines ou financières peuvent largement entamer une légitimité qu’il leur sera ensuite difficile de rétablir, d’autant plus qu’une telle situation a très souvent un impact humain ou financier collatéral (baisse des dons ou des cotisations, départ des bénévoles…).
Enfin, la légitimité des ONG peut aussi être associée à leur transparence et au fonctionnement démocratique de leur organisation interne. Une bonne gouvernance interne peut en effet renforcer aux yeux de l’opinion publique la légitimité de leur revendication à contribuer à l’amélioration de la gouvernance mondiale.