Avec les modèles genAI, la taille compte (et plus petite peut être mieux) – Computerworld
Brown a décrit les data scientists comme des licornes à l’heure actuelle – rares et exigeant souvent le salaire d’une créature mythique. « Et à juste titre », a-t-il déclaré.
La plupart des organisations ne peuvent au mieux employer qu’une poignée de data scientists, que ce soit en raison du manque de talents qualifiés ou du coût de leur emploi, « ce qui crée des goulots d’étranglement lorsqu’il s’agit de former et d’ajuster efficacement le modèle », a-t-il déclaré.
Vers l’hybride ?
Les DSI, a souligné Brown, s’éloignent depuis longtemps des technologies monolithiques, à commencer par le passage d’UNIX à Linux au début des années 2000. Il estime que l’IA se trouve à un tournant similaire et soutient qu’une stratégie hybride, similaire à celle du cloud hybride, est la plus avantageuse pour déployer des modèles d’IA. Alors que les grands LLM, quelque peu amorphes, sont aujourd’hui à l’honneur, l’environnement informatique du futur est composé à 50 % d’applications et à 50 % de SLM.
« Les données se trouvent partout, que ce soit sur site, dans le cloud ou en périphérie. Par conséquent, les données sont par nature hybrides, et comme l’IA doit fonctionner là où se trouvent vos données, elle doit également être hybride », a déclaré Brown. « En fait, nous disons souvent à nos clients et partenaires : l’IA est la charge de travail hybride ultime.
« Essentiellement, un DSI aura autant de modèles d’IA que d’applications. Cela signifie que la formation doit être plus rapide, que le réglage doit être accéléré et que les coûts doivent être maîtrisés. La clé de ce défi réside dans l’open source », a-t-il poursuivi. « Tout comme il a démocratisé l’informatique, l’open source le fera pour l’IA ; c’est déjà le cas.