Je trouve très étonnant de ne lire que trop rarement qu’aujourd’hui, l’IA reste un sujet de recherche. Qu’aurait-il fallu faire de l’informatique durant la décennie où il fallait beaucoup de place et de main d’œuvre pour faire des opérations peu impactantes ?
Les cartes graphiques permettent bien d’entraîner et de faire tourner les LLM, mais elles ne sont pas les plus adaptées. Malheureusement on n’a pas mieux aujourd’hui, comme on n’avait pas mieux que des tubes à vide, aussi connus pour être des gouffres énergétiques.
Les LLM eux-même évoluent, s’améliorent, sont plus efficaces de jour en jour. Il n’y a aucune certitude que ce soit la bonne manière de faire une IA qui tienne vraiment la route.
Mais les premières briques sont là, ça marche, avec certaines limites (qu’il faut apprendre et reconnaître).
On peut se plaindre que des entreprises fassent commerce d’une technologie qui n’est pas suffisamment aboutie, mais injecter de l’argent dans ce domaine de recherche est aussi le meilleur moyen d’avancer rapidement, de trouver des solutions aux problématiques actuelles que pose l’IA.
Bien sûr ça consomme, et si ça consomme, ça coûte cher. Les entreprises d’IA sont les premières à vouloir réduire leurs factures, en disposant de composants plus adaptés ou d’optimisations bien pensées. La marge de manœuvre est énorme en tout point, mais c’est pas ce qui fait vendre des journaux ou cliquer. Pourquoi vouloir arrêter le progrès sous prétexte qu’on ne sait pas (bien) faire aujourd’hui ?
Par ailleurs, il ne faut pas oublier que les LLM ne se limitent pas à des entreprises aux pratiques plus ou moins douteuses. Une bonne hygiène numérique devrait passer par l’usage (et l’encouragement du développement) de LLM libres et maîtrisables. Ce pan foisonnant et pourtant hors des œillères des partisans du climat, leur permettraient de se rendre compte des consommations véritables.
Je me suis reconnu dans les différents points que tu cites. Et c’est ton 3e point qui m’a fait réagir, car c’est bien ça qui se joue. Bref, ton premier pas commence ce soir avec Ollama ? :-)