Modelos generativos profundos podem oferecer os desenvolvimentos mais promissores em IA

Este artigo é uma contribuição de Rick Hao, sócio líder de tecnologia profunda da VC pan-europeia Speedinvest.

Com uma taxa de crescimento anual de 44%, o mercado de IA e aprendizado de máquina está atraindo o interesse contínuo de líderes de negócios em todos os setores. Com algumas projeções estimando que a IA aumentará o PIB de algumas economias locais em 26% até 2030, é fácil ver a lógica do investimento e do hype.

Entre pesquisadores de IA e cientistas de dados, um dos principais passos para garantir que a IA cumpra a promessa de crescimento e produtividade aprimorados é expandir o alcance e os recursos dos modelos disponíveis para as organizações usarem. E no topo da schedule está o desenvolvimento, treinamento e implantação de Deep Generative Fashions (DGMs) – que considero alguns dos modelos mais empolgantes definidos para uso na indústria. Mas por que?

O que são DGMs?

Você provavelmente já viu os resultados de um DGM em ação – eles são, na verdade, o mesmo tipo de modelos de IA que produzem deepfakes ou arte impressionista. Os DGMs há muito entusiasmam acadêmicos e pesquisadores em laboratórios de informática, pelo fato de reunirem duas técnicas muito importantes que representam a confluência do aprendizado profundo e da modelagem probabilística: o paradigma do modelo generativo e as redes neurais.

Um modelo generativo é uma das duas principais categorias de modelos de IA e, como o próprio nome sugere, é um modelo que pode pegar um conjunto de dados e gerar novos pontos de dados com base na entrada recebida até o momento. Isso contrasta com os modelos discriminativos mais comumente usados ​​- e muito mais fáceis de desenvolver, que analisam um ponto de dados em um conjunto de dados e o rotulam ou classificam.

O “D” em “DGM” refere-se ao fato de que, além de serem modelos generativos, alavancam redes neurais profundas. As redes neurais são arquiteturas de computação que dão aos programas a capacidade de aprender novos padrões ao longo do pace – o que torna uma rede neural “profunda” é um nível aumentado de complexidade oferecido por várias “camadas” ocultas de inferências entre a entrada de um modelo e a saída de um modelo. Essa profundidade dá às redes neurais profundas a capacidade de operar com conjuntos de dados extremamente complexos com muitas variáveis ​​em jogo.

Juntos, isso significa que os DGMs são modelos que podem gerar novos pontos de dados com base nos dados inseridos neles e que podem lidar com conjuntos de dados e assuntos particularmente complexos.

As oportunidades dos DGMs

Como mencionado acima, os DGMs já têm alguns usos criativos e imaginativos notáveis, como deepfakes ou geração de arte. No entanto, a gama completa potencial de aplicações comerciais e industriais para DGMs é vasta e promete impulsionar uma variedade de setores.

Por exemplo, considere a questão do dobramento de proteínas. O dobramento de proteínas – descobrindo a estrutura 3-D das proteínas – nos permite descobrir quais medicamentos e compostos interagem com vários tipos de tecido humano e como. Isso é essencial para a descoberta de medicamentos e inovação médica, mas descobrir como as proteínas se dobram é muito difícil, exigindo que os cientistas dissolvam e cristalizem proteínas antes de analisá-las, o que significa que todo o processo para uma única proteína pode durar semanas ou meses. Os modelos tradicionais de aprendizado profundo também são insuficientes para ajudar a resolver o problema de dobramento de proteínas, pois seu foco é principalmente classificar conjuntos de dados existentes, em vez de gerar saídas próprias.

Por outro lado, no ano passado, a equipe da DeepMind AlphaFold O modelo conseguiu prever de forma confiável como as proteínas se dobrariam com base apenas em dados sobre sua composição química. Ao ser capaz de gerar resultados em horas ou minutos, o AlphaFold tem o potencial de economizar meses de trabalho de laboratório e acelerar enormemente a pesquisa em praticamente todos os campos da biologia.

Também estamos vendo DGMs surgirem em outros domínios. Mês passado, DeepMind lançou AlphaCode, um modelo de IA de geração de código que superou com sucesso o desenvolvedor médio em testes. E a aplicabilidade dos DGMs pode ser vista em campos tão distantes quanto física, modelagem financeira ou logística: por serem capazes de aprender tacitamente padrões sutis e complexos que humanos e outras redes de aprendizado profundo não conseguem identificar, os DGMs prometem ser capazes para gerar resultados surpreendentes e perspicazes em praticamente todos os campos.

Os desafios

Os DGMs enfrentam alguns desafios técnicos notáveis, como a dificuldade em treiná-los otimamente (especialmente com conjuntos de dados limitados) e garantir que eles possam produzir saídas consistentemente precisas em aplicações reais. Este é um dos principais impulsionadores da necessidade de mais investimentos para garantir que os DGMs possam ser amplamente implantados em ambientes de produção e, assim, cumprir suas promessas econômicas e sociais.

Além dos obstáculos técnicos, no entanto, um grande desafio para os DGMs está na ética e na conformidade. Devido à sua complexidade, o processo de tomada de decisão para DGMs é muito difícil de entender ou explicar, especialmente por aqueles que não entendem sua arquitetura ou operações. Essa falta de explicabilidade pode criar o risco de um modelo de IA desenvolver vieses injustificados ou antiéticos sem o conhecimento de seus operadores, gerando saídas imprecisas ou discriminatórias.

Além disso, o fato de os DGMs operarem em uma camada de alta complexidade significa que existe o risco de ser difícil reproduzir seus resultados. Essa dificuldade com a reprodutibilidade pode dificultar que pesquisadores, reguladores ou o público em geral tenham confiança nos resultados fornecidos por um modelo.

Em última análise, para mitigar os riscos de explicabilidade e reprodutibilidade, as equipes de DevOps e os cientistas de dados que buscam alavancar os DGMs precisam garantir que estão usando as melhores práticas na formatação de seus modelos e que empregam ferramentas de explicabilidade reconhecidas em suas implantações.

Embora apenas começando a entrar em ambientes de produção em escala, os DGMs representam alguns dos desenvolvimentos mais promissores no mundo da IA. Em última análise, por serem capazes de observar alguns dos padrões mais sutis e fundamentais da sociedade e da natureza, esses modelos serão transformadores em praticamente todos os setores. E apesar dos desafios de garantir conformidade e transparência, há todos os motivos para estarmos otimistas e entusiasmados com a futura promessa dos DGMs para tecnologia, nossa economia e sociedade como um todo.

Rick Hao é o essential parceiro de tecnologia profunda da VC pan-europeia Speedinvest.