O que a Hugging Face e a colaboração da Microsoft significam para a IA aplicada

Este artigo faz parte de nossa série que explora a negócios de inteligência synthetic.

Na semana passada, Hugging Face anunciou um novo produto em colaboração com a Microsoft chamado Abraçando Endpoints de Face no Azureque permite aos usuários configurar e executar milhares de modelos de aprendizado de máquina na plataforma de nuvem da Microsoft.

Tendo começado como um aplicativo de chatbot, o Hugging Face ficou famoso como um hub para modelos de transformadoresum tipo de arquitetura de aprendizado profundo que está por trás de muitos avanços recentes em inteligência synthetic, incluindo grandes modelos de linguagem como OpenAI GPT-3 e o modelo de dobramento de proteínas da DeepMind AlphaFold.

Grandes empresas de tecnologia como Google, Fb e Microsoft usam modelos de transformadores há vários anos. Mas nos últimos dois anos houve um interesse crescente em transformadores entre empresas menores, incluindo muitas que não possuem talento interno de aprendizado de máquina.

Esta é uma grande oportunidade para empresas como a Hugging Face, cuja visão é se tornar o GitHub para aprendizado de máquina. A empresa garantiu recentemente US$ 100 milhões na Série C em uma avaliação de US$ 2 bilhões. A empresa deseja fornecer uma ampla gama de serviços de aprendizado de máquina, incluindo modelos de transformadores prontos para uso.

No entanto, criar um negócio em torno de transformadores apresenta desafios que favorecem grandes empresas de tecnologia e colocam em desvantagem empresas como a Hugging Face. A colaboração da Hugging Face com a Microsoft pode ser o início de uma consolidação do mercado e uma possível aquisição no futuro.

Os modelos de transformador podem realizar muitas tarefas, incluindo classificação, resumo e geração de texto; pergunta respondendo; tradução; escrita código fonte do tool; e conversão de fala para texto. Mais recentemente, os transformadores também se mudaram para outras áreas, como pesquisa de drogas e visão computacional.

Uma das principais vantagens dos modelos de transformadores é sua capacidade de escala. Os últimos anos mostraram que o desempenho dos transformadores cresce à medida que são feitos maiores e treinados em conjuntos de dados maiores. No entanto, treinar e operar grandes transformadores é muito difícil e caro. UMA artigo recente do Fb mostra alguns dos desafios dos bastidores do treinamento de modelos de linguagem muito grandes. Embora nem todos os transformadores sejam tão grandes quanto o GPT-3 da OpenAI e o OPT-175B do Fb, eles são difíceis de acertar.

O Hugging Face oferece um grande repertório de modelos de ML pré-treinados para aliviar a carga de implantação de transformadores. Os desenvolvedores podem carregar transformadores diretamente da biblioteca Hugging Face e executá-los em seus próprios servidores.

Modelos pré-treinados são ótimos para experimentação e ajuste fino de transformadores para aplicações downstream. No entanto, quando se trata de aplicar os modelos de ML a produtos reais, os desenvolvedores devem levar muitos outros parâmetros em consideração, incluindo os custos de integração, infraestrutura, dimensionamento e retreinamento. Se não forem configurados corretamente, os transformadores podem ser caros para operar, o que pode ter um impacto significativo no modelo de negócios do produto.

Portanto, embora os transformadores sejam muito úteis, muitas organizações que podem se beneficiar deles não têm talento e recursos para treiná-los ou executá-los de maneira econômica.

Abraçando Endpoints de Face no Azure

Uma alternativa para executar seu próprio transformador é usar modelos de ML hospedados em servidores em nuvem. Nos últimos anos, várias empresas lançaram serviços que possibilitaram o uso de modelos de gadget finding out por meio de chamadas de API sem a necessidade de saber treinar, configurar e implantar modelos de ML.

Há dois anos, a Hugging Face lançou seu próprio serviço de ML, chamado Inference API, que fornece acesso a milhares de modelos pré-treinados (principalmente transformadores) em oposição às opções limitadas de outros serviços. Os clientes podem alugar a API de inferência com base em recursos compartilhados ou configurar o Hugging Face e manter a infraestrutura para eles. Os modelos hospedados tornam o ML acessível a uma ampla variedade de organizações, assim como os serviços de hospedagem na nuvem trouxeram blogs e websites para organizações que não conseguiam configurar seus próprios servidores da internet.

Então, por que o Hugging Face se voltou para a Microsoft? Transformar ML hospedado em um negócio lucrativo é muito complicado (veja, por exemplo, API GPT-3 da OpenAI). Empresas como Google, Fb e Microsoft investiram bilhões de dólares na criação de processadores e servidores especializados que reduzem os custos de execução de transformadores e outros modelos de aprendizado de máquina.

O Hugging Face Endpoints aproveita os principais recursos do Azure, incluindo suas opções flexíveis de dimensionamento, disponibilidade world e padrões de segurança. A interface é fácil de usar e leva apenas alguns cliques para configurar um modelo para consumo e configurá-lo para dimensionar em diferentes volumes de solicitação. A Microsoft já criou uma infraestrutura massiva para operar transformadores, o que provavelmente reduzirá os custos de entrega dos modelos de ML da Hugging Face. (Atualmente em beta, o Hugging Face Endpoints é gratuito e os usuários pagam apenas pelos custos de infraestrutura do Azure. A empresa planeja um modelo de preços baseado no uso quando o produto estiver disponível ao público.)

Mais importante, a Microsoft tem acesso a uma grande fatia do mercado que o Hugging Face tem como alvo.

De acordo com Abraçando o weblog do rosto“Como 95% das empresas da Fortune 500 confiam no Azure com seus negócios, fazia todo o sentido que a Hugging Face e a Microsoft resolvessem esse problema juntas.”

Muitas empresas acham frustrante se inscrever e pagar por vários serviços em nuvem. A integração do produto de ML hospedado da Hugging Face com o Microsoft Azure ML reduz as barreiras para entregar o valor de seu produto e expande o alcance de mercado da empresa.

Crédito da imagem: 123RF (com modificações)

Abraçar o Face Endpoints pode ser o começo de muitas outras integrações de produtos no futuro, já que o conjunto de ferramentas da Microsoft (Outlook, Phrase, Excel, Groups, and so forth.) tem bilhões de usuários e fornece muitos casos de uso para modelos de transformadores. Executivos da empresa já sugeriram planos para expandir sua parceria com a Microsoft.

“Este é o início da colaboração Hugging Face e Azure que estamos anunciando hoje enquanto trabalhamos juntos para trazer nossas soluções, nossa plataforma de aprendizado de máquina e nossos modelos acessíveis e facilitar o trabalho no Azure. Hugging Face Endpoints no Azure é nossa primeira solução disponível no Azure Market, mas estamos trabalhando duro para trazer mais soluções Hugging Face para o Azure”, disse Jeff Boudier, diretor de produto da Hugging Face. TechCrunch. “Reconhecemos [the] obstáculos para implantar soluções de aprendizado de máquina na produção [emphasis mine] e começou a colaborar com a Microsoft para resolver o crescente interesse em uma solução simples e pronta para uso.”

Isso pode ser extremamente vantajoso para a Hugging Face, que precisa encontrar um modelo de negócios que justifique sua avaliação de US$ 2 bilhões.

Mas a colaboração do Hugging Face com a Microsoft não será sem compensações.

No início deste mês, em entrevista com a ForbesClément Delangue, cofundador e CEO da Hugging Face, disse que recusou várias “ofertas de aquisição significativas” e não venderá seus negócios, como o GitHub fez com a Microsoft.

No entanto, a direção que sua empresa está tomando agora tornará seu modelo de negócios cada vez mais dependente do Azure (novamente, OpenAI fornece um bom exemplo de onde as coisas estão indo) e possivelmente reduzirá o mercado para seu produto independente de API de inferência.

Sem o alcance de mercado da Microsoft, os produtos da Hugging Face terão maiores barreiras de adoção, menor proposta de valor e custos mais altos (os “bloqueios” mencionados acima). E a Microsoft sempre pode lançar um produto rival que será melhor, mais rápido e mais barato.

Se uma proposta de aquisição da Microsoft chegar no futuro, a Hugging Face terá que fazer uma escolha difícil. Isso também é um lembrete de para onde está indo o mercado de grandes modelos de linguagem e aprendizado de máquina aplicado.

Em comentários publicados no weblog Hugging Face, Delangue disse: “A missão do Hugging Face é democratizar o bom aprendizado de máquina. Estamos nos esforçando para ajudar cada desenvolvedor e organização a criar aplicativos de ML de alta qualidade que tenham um impacto positivo na sociedade e nos negócios.”

De fato, produtos como o Hugging Face Endpoints democratizarão o aprendizado de máquina para desenvolvedores.

Mas transformadores e grandes modelos de linguagem também são inerentemente antidemocráticos e dará muito poder a algumas empresas que têm os recursos para construí-los e executá-los. Enquanto mais pessoas poderão construir produtos em cima de transformadores alimentados pelo Azure, a Microsoft continuará a garantir e expandir sua participação de mercado no que parece ser o futuro do aprendizado de máquina aplicado. Empresas como a Hugging Face terão que sofrer as consequências.

Este artigo foi originalmente publicado por Ben Dickson em TechTalks, uma publicação que examina as tendências em tecnologia, como elas afetam a maneira como vivemos e fazemos negócios e os problemas que elas resolvem. Mas também discutimos o lado maligno da tecnologia, as implicações mais sombrias da nova tecnologia e o que precisamos observar. Você pode ler o artigo authentic aqui.