La communauté Linux, pourtant, a toujours traité Java avec une certaine distance. Le langage qui a promis de renverser l'hégémonie de Microsoft, rêve que partage tout partisant de Linux, n'a pas été accepté au sein du mouvement de développement de Linux. Plusieurs raisons expliquent cet état de fait.

Tout d'abord, Java est un langage propriétaire de Sun Microsystems. Ce qui veut dire que Sun contrôle tous les aspects du langage, des bibliothèques standards aux conditions de license. Les tactiques employées par Microsoft, comme changer les bibliothèques de J++, leur environnement de programmation Java, et rendre leur machine virtuelle incompatible avec les machines virtuelles de leurs concurrents, ont forcé Sun à s'octroyer le droit exclusif d'accorder à un produit le label « Compatible Java ». Bien que ce soit probablement la seule solution pour contrer les pratiques malhonnêtes de Microsoft, aucun langage n'a jusqu'ici été autant sous le contrôle d'une seule et unique société. La communauté Linux a vivement réagi à ce type de contrôle.

Deuxièmement, l'aspect multi-plateformes de Java, qui repose sur la Machine Virtuelle Java, fait que les programmeurs ont plus l'impression de contribuer à l'environnement Java qu'à Linux. Ce aspect implique aussi qu'il est plus difficile d'exploiter les caractéristiques de Linux.

Troisièmement, Java est encore assez lent. De nombreuses améliorations sont cependant disponibles, tels les compilateurs « juste-à-temps » et Hotspot de Sun (qui n'est qu'en version bêta). Java a, sans consteste, progressé depuis sa création, mais son exécution demande encore des plateformes puissantes, or le monde Linux tend à accorder beaucoup d'importance à la vitesse et un des principaux avantages de Linux est sa capacité à fonctionner sur des matériels obsolètes.