davantage de modèles et davantage d’Open Source

Selon le fonds Andreessen Horowitz, les grandes entreprises misent de plus en plus sur une diversit de LLM et privilgient les modles Open Source. Deux facteurs qui branlent la domination d’OpenAI.

PublicitDes budgets en croissance et une diversit de technologies qui progresse largement. Tel le constat dress par le fonds amricain Andreessen Horowitz (ou a16z), fond en 2009 par Marc Andreessen et Ben Horowitz. Sur la base d’une enqute mene auprs de 70 des 500 plus grandes entreprises amricaines – assortie d’entretiens approfondis avec des dirigeants de ces mmes organisations -, l’tude du fonds estime que, sur la base de premiers rsultats encourageants lors des exprimentations avec le GenAI, les entreprises vont augmenter les investissements consacrs la technologie. Presque toutes les entreprises avec lesquelles nous nous sommes entretenus ont prvu de multiplier leurs dpenses par un facteur de 2 5 en 2024 pour soutenir le dploiement d’un plus grand nombre d’applications en production , crit a16z, qui explique que les rserves des entreprises concernant la technologie (hallucinations, gestion des donnes confidentielles) ne suffisent pas ralentir cette croissance.

Mieux, selon cette tude, les entreprises amricaines sont en train de ddier des enveloppes budgtaires la GenAI, mme si le phnomne reste encore minoritaire : seules 19% des organisations ont cr un budget spcifique pour les LLM, 37% vont encore piocher dans le budget innovation ou dans d’autres budgets IT. une chelle beaucoup plus rduite, nous avons galement commenc voir certains dirigeants dployer des budgets GenAI sur la base d’conomies de personnel, en particulier dans le service client , souligne Andreessen Horowitz, qui cite le cas d’une entreprise non identifie qui conomiserait 6 dollars par appel trait par son service client quip d’un LLM, ce qui pousserait cette organisation multiplier par 8 son investissement dans la technologie.

Le dfi du calcul du ROI

Notons que cette croissance des investissements rsulte plus de perceptions que de KPI solidement tablis. 56% des entreprises pensent ainsi que le ROI de la technologie est positif… sans le mesurer. court terme, les dirigeants sont encore en train de dployer cette technologie et de dterminer les meilleurs indicateurs pour quantifier les rsultats, mais au cours des deux ou trois prochaines annes, le retour sur investissement va devenir de plus en plus important. Alors que les dirigeants cherchent encore la rponse cette question, nombreux sont ceux qui se fient aux dires de leurs employs affirmant mieux utiliser leur temps grce la technologie , analyse a16z.

Les grands modles de langage les plus dploys auprs des 70 grandes entreprises amricaines interroges par a16z.

L’tude du fonds d’investissement zoome galement sur les choix technologiques des entreprises. Premier constat : la domination sans partage d’OpenAI s’effrite et on se dirige vers un paysage technologique plus diversifi. Aujourd’hui, lorsqu’on parle aux dirigeants d’entreprise, ils testent tous – et dans certains cas, utilisent mme en production – plusieurs modles, ce qui leur permet d’adapter les cas d’usage en fonction des performances, de la taille et du cot, d’viter l’enfermement technologique et d’exploiter rapidement les avances dans un domaine qui volue rapidement , crivent les auteurs de l’tude. Ainsi, 57% des entreprises utilisent dj, en production ou pour leurs prototypes, 4 modles de LLM ou davantage, souvent avec des architectures flexibles permettant de passer de l’un l’autre. Si OpenAI fait toujours la course en tte – notamment quand on se focalise sur les applications en production -, Google et Meta arrivent des niveaux de dploiement significatifs. Et le Franais Mistral pointe le bout de son nez, en 5e position (avec 17% des entreprises exploitant ses modles, pour la plupart sur des tests).

PublicitL’open source pour renforcer le contrle sur les modles

Et, si on se fie aux tendances dessines par Andreessen Horowitz, ce paysage devrait encore voluer. Car plus de 8 dcideurs interrogs sur 10 manifestent leur volont de renforcer l’usage des modles Open Source, comme Llama ou Mistral. Un renversement de tendance selon le fonds, qui value la part de march des modles propritaires 80 90 % en 2023, la majorit de cette part revenant OpenAI. Et ce choix du code source ouvert n’est pas dict par les cots, mais d’abord par les capacits de contrle qu’offrent ces modles (scurit des donnes confidentielles et comprhension des rsultats) et pour leurs possibilits de customisation. Avec la monte en puissance des modles Open Source de bon niveau, la plupart des organisations choisissent de ne pas former leur propre LLM partir de zro et d’utiliser la place la technique du Retrieval augmented generation (RAG) ou d’effectuer un fine-tuning d’un modle pour leurs besoins spcifiques , souligne a16z.

Globalement, le fonds d’investissement estime que le niveau de dpense annuelle des entreprises dans l’IA gnrative – hors fonctionnalits embarques dans des logiciels tiers – va passer de de 1,5 2 Md$ fin 2023 5 Md$ la fin de cette anne.