Les modèles d’apprentissage automatique fondamentaux sont généralement volumineux – formés à l’aide de données non étiquetées à grande échelle, pour être ensuite adaptés à un large éventail de tâches spécifiques.
Mais, compte tenu de leur profondeur, ces modèles nécessitent également de grandes quantités de ressources de calcul pour fonctionner à une échelle significative. Et que l’informatique à grande échelle est le problème qu’Anyscale Inc. s’efforce de résoudre.
“L’une des raisons pour lesquelles de nombreux projets d’IA et les initiatives échouent ou n’arrivez pas à la production est le besoin de cette échelle, l’ascenseur de l’infrastructure pour que cela se produise réellement », a déclaré Robert Nishihara (photo), co-fondateur et PDG d’Anyscale. “Ôvotre objectif ici avec Anyscale et Ray est de faciliter l’informatique évolutive. So qu’en tant que développeur ou en tant qu’entreprise qui veut pour tirer parti de l’IA, tout ce que vous devez savoir, c’est comment programmer sur votre ordinateur portable.
Nishihara s’est entretenu avec l’analyste de l’industrie theCUBE Jean Fourreur au AWS Startup Showcase : événement “Top Startups Building Generative AI on AWS”, lors d’une diffusion exclusive sur theCUBE, le studio de diffusion en direct de SiliconANGLE Media. Ils ont discuté de l’importance cruciale de l’évolutivité de l’infrastructure dans l’exploitation de l’apprentissage automatique pour l’entreprise. (* Divulgation ci-dessous.)
Briser le battage médiatique derrière les modèles fondamentaux
L’industrie ne semble pas en avoir assez des modèles fondamentaux, même si le terme domine le discours populaire autour de l’IA. Ces modèles préexistants aident les entreprises à obtenir de la valeur et à évoluer plus rapidement. Et c’est ce qui les rend si recherchés, selon Nishihara.
« Ils permettent aux entreprises et les développeurs pour tirer parti de l’apprentissage automatique, utiliser l’apprentissage automatique prêt à l’emploi avec ces grands modèles qui ont été entraînés sur des tonnes de données et qui sont utiles dès le départ », a-t-il expliqué. “Et puis, en tant qu’entreprise ou en tant que développeur, vous pouvez prendre ces modèles fondamentaux et les réutiliser, les affiner ou les adapter à votre cas d’utilisation spécifique et à ce que vous voulez réaliser. »
Le coût de la formation de modèles ML spécialement conçus à partir de zéro peut être incroyablement élevé, et les modèles fondamentaux tirent donc leur importance du contournement de ce processus pour les entreprises. Mais pour exploiter les modèles fondamentaux eux-mêmes, il existe trois processus principaux : la formation, le raffinement et l’adaptation. Anyscale et sa plate-forme ML distribuée Ray sont capables de gérer les trois charges de travail, selon Nishihara.
“La raison pour laquelle Ray et Anyscale sont importants ici, c’est que construire et utiliser des modèles de fondation nécessite un énorme escalader. Cela nécessite beaucoup de données. Cela nécessite également beaucoup de calcul, de GPU, de TPU et d’autres ressources », a-t-il déclaré. “To vraiment profiter de ça et construire ces applications évolutives, il y a beaucoup d’infrastructures à mettre en place sous la capuche.”
Les entreprises peuvent, alternativement, acquérir elles-mêmes les ressources infrastructurelles nécessaires aux opérations internes. Cependant, cela peut confier aux équipes d’exploitation et de développement la tâche supplémentaire de gérer l’infrastructure, alors qu’elles pourraient se concentrer directement sur le développement rapide de produits, selon Nishihara.
Faire abstraction de la couche de complexité
On peut dire que les plates-formes ML distribuées comme Ray sont, avec AIOps, ce que le cloud est pour les centres de données. Et un paradigme où les entreprises n’ont pas à comprendre leurs propres infrastructures favorisera une augmentation considérable de la créativité, a expliqué Nishihara.
“Avec Ray et Anyscale, nous allons supprimer l’infrastructure du chemin critique afin qu’en tant que développeur ou une entreprise, tout ce sur quoi vous devez vous concentrer est la logique de votre application, ce que vous voulez que le programme fasse, ce que vous voulez que votre application fasse, et comment vous voulez que l’IA fonctionne réellement interface avec le reste de votre produit », a-t-il déclaré.
Ray est un projet open source qui a été créé par Nishihara et ses collègues à l’Université de Californie à Berkeley comme un moyen simple à utiliser pour créer et exécuter des applications évolutives. Anyscale est la plate-forme consolidée qui fournit Ray en tant que service géré pour les utilisateurs finaux.
« Fondamentalement, nous exécuterons Ray pour vous dans le cloud et fournir de nombreux outils autour de l’expérience développeur, gérer les infrastructures et fournir plus de performances et une infrastructure supérieure.
Selon Nishihara, les besoins en calcul des entreprises dépendantes de l’IA ont augmenté à un rythme d’environ 35 fois tous les 18 mois. Cette demande rapide a conduit des acteurs à grande échelle, tels que Uber, Shopify et Netflix, à se tourner vers des frameworks d’applications distribuées comme Ray pour leurs besoins en infrastructure ML.
Voici l’interview vidéo complète, une partie de la couverture de SiliconANGLE et theCUBE de la AWS Startup Showcase : événement “Top Startups Building Generative AI on AWS”:
(* Divulgation : Anyscale Inc. a parrainé ce segment de theCUBE. Ni Anyscale ni d’autres sponsors n’ont de contrôle éditorial sur le contenu de theCUBE ou de SiliconANGLE.)
