TECNOLOGIA

Coisas ruins acontecerão quando o debate sobre a senciência da IA ​​se tornar mainstream

Coisas ruins acontecerão quando o debate sobre a senciência da IA ​​se tornar mainstream

[ad_1]

Um engenheiro de IA do Google recentemente surpreendeu o mundo ao anunciando que um dos chatbots da empresa havia se twister senciente. Ele foi posteriormente colocado em licença administrativa remunerada por sua explosão.



Seu nome é Blake Lemoine e ele com certeza parece ser a pessoa certa para falar sobre máquinas com almas. Ele não é apenas um desenvolvedor profissional de IA no Google, mas também um padre cristão. Ele é como um Reese’s Peanut Butter Cup de ciência e religião.

O único problema é que todo o conceito é ridículo e perigoso. Existem milhares de especialistas em IA debatendo a “senciência” agora, e todos parecem estar falando um ao lado do outro.

Saudações, humanóides

Assine nossa e-newsletter agora para uma recapitulação semanal de nossas histórias de IA favoritas em sua caixa de entrada.

Vamos direto ao cerne da questão: Lemoine não tem nenhuma evidência para respaldar suas alegações.

Ele não está dizendo que o departamento de IA do Google avançou tanto que é capaz de criar uma IA senciente de propósito. Ele afirma que estava fazendo manutenção de rotina em um chatbot quando descoberto que se tornou senciente.

Já vimos este filme uma centena de vezes. Ele é o escolhido.

Ele é Elliot encontrando ET. Ele é Lilo encontrando ponto. Ele é Steve Guttenberg do filme Curto circuito e LaMBDA (o chatbot com quem ele é amigo agora) é o robô militar mundano também conhecido como Número Cinco.

O argumento essencial de Lemoine é que ele não pode realmente demonstrar como a IA é senciente, ele só sente. E a única razão pela qual ele disse alguma coisa é porque ele tinha que dizer. Ele é um padre cristão e, de acordo com eleisso significa que ele é moralmente obrigado a proteger o LaMBDA porque está convencido de que ele tem alma.

Ele basicamente transformou a discussão em um binário bruto em que você concorda com a lógica dele ou está debatendo a religião dele.

O grande problema surge quando você percebe que o LaMDBA não está agindo de forma estranha ou gerando texto que parece estranho. Está fazendo exatamente o que foi projetado para fazer.

Então, como você debate algo com alguém cuja única contribuição para o argumento é sua fé?

Aqui está a parte assustadora: o argumento de Lemoine parece ser tão bom quanto o de qualquer outra pessoa. European não quero dizer que é como valioso como de qualquer outra pessoa. Estou dizendo que os pensamentos de ninguém sobre o assunto parecem ter mais peso actual.

As afirmações de Lemoine, e a atenção subsequente que eles atraíram, reformularam a conversa em torno da senciência.

Ele basicamente transformou a discussão em um binário bruto em que você concorda com a lógica dele ou está debatendo a religião dele.

Tudo parece absurdo e bobo, mas o que acontece se Lemoine ganhar seguidores? O que acontece se suas afirmações infundadas irritarem os conservadores cristãos – um grupo cuja plataforma política se baseia no tráfico a mentira de que a large tech censura o discurso da direita?

Temos que pelo menos considerar um cenário em que o debate se torne mainstream e se torne uma causa para a direita religiosa se unir.

Esses modelos são treinados em bancos de dados que contêm partes de toda a Web. Isso significa que eles podem ter quantidades quase infinitas de informações privadas. Isso também significa que esses modelos provavelmente podem argumentar sobre política melhor do que o cidadão médio da mídia social.

Believe o que acontece se Lemoine conseguir que o Google libere o LaMBDA ou se os desenvolvedores conservadores de IA virem isso como um chamado para construir e lançar modelos semelhantes ao público.

Isso poderia ter um impacto muito maior nos eventos mundiais do que qualquer coisa que os terraformadores sociais Cambridge Analytica ou Fazendas de trolls russos alguma vez cozinhado.

Pode parecer contra-intuitivo argumentar simultaneamente que o LaMBDA é apenas um chatbot burro que não poderia ser senciente e que poderia prejudicar a democracia se o soltarmos no Twitter.

Mas há evidência empírica que as eleições presidenciais dos EUA de 2016 foram influenciadas por chatbots armados com nada mais do que memes.

Se slogans inteligentes e sapos de desenhos animados podem fazer pender a balança da democracia, o que acontece quando chatbots que podem debater política bem o suficiente para enganar a pessoa comum são soltos no Twitter sem moderação de Elon Musk?

Leia a seguir: As 3 coisas que uma IA deve demonstrar para ser considerada senciente

[ad_2]

Fonte da Notícia: thenextweb.com

Artigos relacionados

Botão Voltar ao topo