GAMES

Aqui está o que isso significa para o futuro

Aqui está o que isso significa para o futuro

[ad_1]

Se uma IA fosse capaz de criar inteiramente sua própria linguagem, isso certamente poderia significar incerteza para o futuro. Afinal, ninguém quer liberar uma IA auto-replicante e com criptografia de linguagem que pode se tornar desonesta e começar a desligar partes críticas de nossa infraestrutura (como a Web). A boa notícia é que os pesquisadores não parecem acreditar que essa seja a foremost ameaça com o DALL-E 2 experimental e amplamente inacessível (que já tem uma versão equivalente disponível para o público em geral chamada DALL-E Mini).



Snowswell observou em seu relatório que forçar a IA a cuspir imagens com legendas anexadas resultou em frases estranhas que poderiam ser inseridas para criar imagens previsíveis de coisas muito específicas. Há uma série de razões pelas quais isso pode estar acontecendo. Snowswell sugeriu que poderia ser uma mistura de dados de vários idiomas informando a relação entre caracteres e imagens no cérebro da IA, ou poderia até ser baseado nos valores mantidos por tokens em caracteres individuais.

Snowswell continuou dizendo que a preocupação não é se o DALL-E 2 é perigoso ou não, mas sim que os pesquisadores são limitados em sua capacidade de bloquear certos tipos de conteúdo. Parece que qualquer um poderia contornar palavras proibidas para gerar conteúdo ofensivo com base na linguagem secreta do computador, que ainda não é bem compreendida, e esse pode ser o problema que hinder o DALL-E 2 de chegar às mãos do público em sua forma mais pura, em menos por enquanto.

[ad_2]

Fonte da Notícia: www.slashgear.com

Artigos relacionados

Botão Voltar ao topo