Le coût d'un mot

Parce qu'il est support de communication, chaque mot à un coût, ou plus précisément un poids. Une sorte de ratio entre la place qu'il occupe et l'information qu'il véhicule. Si on pousse le concept, on aboutit rapidement à la Théorie de l'Information de Shannon, et surtout à la notion d'entropie. Mais nous ne le pousserons pas. En effet nous avons tous (ou presque) intuitivement la notion du "