Blake Lemoine, Google e busca de almas no algoritmo

Não foi a ciência que convenceu o engenheiro do Google, Blake Lemoine, de que uma das IAs da empresa é senciente. Lemoine, que também é um padre místico cristão ordenado, diz que foi a IA comentários sobre religiãoassim como o seu “crenças pessoais e espirituais”, que ajudou persuadir para ele, a tecnologia tinha pensamentos, sentimentos e uma alma.

“Ecu sou um padre. Quando LaMDA alegou ter uma alma e depois foi capaz de explicar eloquentemente o que isso significava, european estava inclinado a dar o benefício da dúvida”, disse Lemoine em um tweet recente. “Quem sou european para dizer a Deus onde ele pode e não pode colocar almas?”

Lemoine provavelmente está errado – pelo menos do ponto de vista científico. Pesquisadores de IA proeminentes, bem como o Google, dizem que o LaMDA, o modelo de linguagem conversacional que Lemoine estava estudando na empresa, é muito poderoso e avançado o suficiente para fornecer respostas extremamente convincentes a perguntas de sondagem sem realmente entender o que está dizendo. O Google suspendeu Lemoine depois que o engenheiro, entre outras coisas, contratou um advogado para a LaMDA e começou a conversar com o Comitê Judiciário da Câmara sobre as práticas da empresa. Lemonine alega que o Google o está discriminando por causa de sua religião.

Ainda assim, as crenças de Lemoine provocaram um debate significativo e servem como um lembrete gritante de que, à medida que a IA se torna mais avançada, as pessoas terão todos os tipos de ideias inusitadas sobre o que a tecnologia está fazendo e o que isso significa para elas.

“Por ser uma máquina, não costumamos dizer: ‘É herbal que isso aconteça’”, disse Scott Midson, professor de artes liberais da Universidade de Manchester que estuda teologia e pós-humanismo, à Recode. “Quase pulamos e vamos para o sobrenatural, o mágico e o religioso.”

Vale ressaltar que Lemoine dificilmente é a primeira figura do Vale do Silício a fazer afirmações sobre inteligência synthetic que, pelo menos na superfície, soam religiosas. Ray Kurzweil, um proeminente cientista da computação e futurista, há muito pace promove a “Singularidade”, que é a noção de que a IA acabará por ser mais esperta que a humanidade e que os humanos poderiam, em última análise, fundir-se com a tecnologia. Anthony Levandowski, cofundador da startup de carros autônomos do Google, Waymo, iniciou a Caminho do futurouma igreja inteiramente dedicada à inteligência synthetic em 2015 (a igreja foi dissolvido em 2020). Mesmo alguns praticantes de religiões mais tradicionais começaram a incorporar a IA, incluindo robôs que distribuem bênçãos e conselhos.

Com otimismo, é possível que algumas pessoas encontrem verdadeiro conforto e sabedoria nas respostas fornecidas pela inteligência synthetic. As ideias religiosas também podem orientar o desenvolvimento da IA ​​e, talvez, tornar a tecnologia ética. Mas, ao mesmo pace, existem preocupações reais que surgem ao pensar em IA como algo mais do que tecnologia criada por humanos.

Falei recentemente com Midson sobre essas preocupações. Não apenas corremos o risco de glamourizar a IA e perder de vista suas falhas muito reais, ele me disse, mas também de permitir que o esforço do Vale do Silício promova uma tecnologia que ainda é muito menos sofisticada do que parece. Esta entrevista foi editada para maior clareza e duração.

Rebecca Heilweil

Vamos começar com a grande história que saiu do Google algumas semanas atrás. Quão comum é que alguém com visões religiosas acredite que a IA ou a tecnologia têm alma, ou que é algo mais do que apenas tecnologia?

Scott Midson

Embora essa história pareça realmente surpreendente – a ideia de religião e tecnologia se unindo – a história inicial dessas máquinas e religião realmente torna essa ideia de motivos religiosos em computadores e máquinas muito mais comum.

Se voltarmos à Idade Média, ao período medieval, havia autômatos, que eram basicamente dispositivos automovíveis. Há um autômato em explicit, um monge mecânico, que foi especialmente projetado para encorajar as pessoas a refletir sobre as complexidades da criação de Deus. Seu movimento foi projetado para invocar essa reverência religiosa. Na época, o mundo generation visto como um mecanismo intrincado, e Deus como o grande projetista de um relógio.

Saltando do monge mecânico para um tipo diferente de monge mecânico: Muito recentemente, uma igreja alemã em Hesse e Nassau fez BlessU-2 para comemorar o aniversário de 500 anos da Reforma. BlessU-2 generation basicamente um caixa eletrônico glorificado que dispensava bênçãos e movia seus braços e tinha esse tipo de coisa grande, religiosa e ritualizada. Houve muitas reações mistas a isso. Uma em explicit, generation uma velha que estava dizendo que, na verdade, uma bênção que ela recebeu desse robô foi realmente significativa. Technology um explicit que tinha significado para ela, e ela estava dizendo: “Bem, na verdade, algo está acontecendo aqui, algo que não posso explicar”.

Rebecca Heilweil

No mundo do Vale do Silício e dos espaços tecnológicos, que tipos de outras reivindicações semelhantes surgiram?

Scott Midson

Para algumas pessoas, principalmente no Vale do Silício, há muito hype e dinheiro que podem ser anexados a afirmações grandiosas como “Minha IA é consciente”. Chama muita atenção. Ativa a imaginação de muita gente justamente porque a religião tende a ir além do que podemos explicar. É aquele apego sobrenatural.

Há muitas pessoas que voluntariamente atiçarão as chamas dessas conversas para sustentar o hype. Ecu acho que uma das coisas que podem ser bastante perigosas é onde esse hype não é mantido sob controle.

Rebecca Heilweil

De vez em quando, vou conversar com Alexa ou Siri e fazer algumas grandes perguntas sobre a vida. Por exemplo, se você perguntar à Siri se Deus é actual, o bot responderá: “É tudo um mistério para mim”. Houve também este exemplo recente de um jornalista perguntando GPT-3, o modelo de linguagem criado pelo laboratório de pesquisa de IA OpenAI, sobre o judaísmo e ver quão boas podem ser suas respostas. Às vezes, as respostas dessas máquinas parecem realmente fúteis, mas outras vezes parecem realmente sábias. Por que é que?

Scott Midson

Joseph Weizenbaum projetou Eliza, o primeiro chatbot do mundo. Weizenbaum fez alguns experimentos com o Eliza, que generation apenas um chatbot rudimentar, um device de processamento de linguagem. Eliza foi projetada para imitar uma psicoterapeuta rogeriana, então sua conselheira média, basicamente. Weizenbaum não disse aos participantes que eles estariam conversando com uma máquina, mas eles foram informados que você estaria interagindo através de um computador com um terapeuta. As pessoas diziam: “Estou me sentindo muito triste com minha família” e então Eliza pegava a palavra “família”. Ele pegava certas partes da frase e quase a jogava de volta como uma pergunta. Porque é isso que esperamos de um terapeuta; não há nenhum significado que esperamos deles. É aquela tela reflexiva, onde um computador não precisa entender o que está dizendo para nos convencer de que está fazendo seu trabalho como terapeuta.

Temos um device de IA muito mais complexo, um device que pode contextualizar palavras em frases. A tecnologia LaMDA do Google tem muita sofisticação. Não é apenas procurar uma simples palavra na frase. Ele pode localizar palavras contextualmente em diferentes tipos de estruturas e configurações. Então dá a impressão de que sabe do que está falando. Um dos principais pontos de discórdia nas conversas sobre chatbots é o quanto o interlocutor – a máquina com a qual estamos falando – entende genuinamente o que está sendo dito?

Rebecca Heilweil

Existem exemplos de bots que não fornecem respostas particularmente boas?

Scott Midson

Há muita cautela sobre o que essas máquinas fazem e não fazem. É tudo sobre como eles te convencem de que eles entendem e esse tipo de coisa. Noel Sharkey é um teórico proeminente neste campo. Ele realmente não gosta desses robôs que convencem você de que podem fazer mais do que realmente podem fazer. Ele os chama de “bots de exibição”. Um dos principais exemplos que ele america dos bots do display é Sophia, a robô que recebeu standing de cidadania honorária na Arábia Saudita. Isso é mais do que um chatbot básico porque está em um corpo de robô. Você pode dizer claramente que Sophia é um robô, por nenhuma outra razão além do fato de que a parte de trás de sua cabeça é um invólucro transparente, e você pode ver todos os fios e coisas.

Para Sharkey, tudo isso é apenas uma ilusão. Isso é apenas fumaça e espelhos. Sophia não garante o standing de pessoa por qualquer extensão da imaginação. Não entende o que está dizendo. Não tem esperanças, sonhos, sentimentos ou qualquer coisa que a torne tão humana quanto possa parecer. O fato é que enganar as pessoas é problemático. Tem muitas frases de swing-and-miss. Às vezes, funciona mal, ou diz coisas questionáveis, de levantar as sobrancelhas. Mas mesmo onde é mais transparente, ainda estamos seguindo algum nível de ilusão.

Há muitas vezes em que os robôs têm aquela coisa de “é um fantoche em uma corda”. Não está fazendo tantas coisas independentes quanto pensamos. Também tivemos robôs indo para depoimentos. Pimenta o robô foi a um depoimento do governo sobre IA. Technology uma sessão de audiência de provas da Câmara dos Lordes, e parecia que Pepper estava falando por si mesmo, dizendo todas as coisas. Estava tudo pré-programado, e isso não generation totalmente transparente para todos. E, novamente, é esse equívoco. É gerenciar o hype que european acho que é a grande preocupação.

Rebecca Heilweil

Isso meio que me lembra aquela cena de O feiticeiro de Oz. onde o verdadeiro mago é finalmente revelado. Como a conversa sobre se a IA é ou não senciente se relaciona com as outras discussões importantes que estão acontecendo sobre IA no momento?

Scott Midson

O Microsoft Tay generation outro chatbot enviado para o Twitter e tinha um algoritmo de máquina onde aprenderia com sua interação com as pessoas na Twittersfera. O problema é que Tay foi trollado e em 16 horas teve que ser retirado do Twitter porque generation misógino, homofóbico e racista.

Como esses robôs – sencientes ou não – são feitos à nossa imagem é outro grande conjunto de questões éticas. Muitos algoritmos serão treinados em conjuntos de dados que são inteiramente humanos. Eles falam de nossa história, de nossas interações, e são inerentemente tendenciosos. Existem demonstrações de algoritmos que são tendenciosos com base na raça.

A questão da senciência? Ecu posso ver isso como um arenque vermelho, mas na verdade, também está ligado a como fazemos máquinas à nossa imagem e o que fazemos com essa imagem.

Rebecca Heilweil

Timnit Gebru e Margaret Mitchell, dois proeminentes pesquisadores de ética em IA, levantou esta preocupação antes de ambos serem demitidos pelo Google: ao pensar na discussão da senciência e na IA como algo independente, podemos perder o fato de que a IA é criada por humanos.

Scott Midson

Nós quase vemos a máquina de uma certa maneira, como desapegada, ou até mesmo parecida com Deus, de algumas maneiras. Voltando à caixa preta: tem uma coisa que a gente não entende, é meio religioso, é incrível, tem um potencial incrível. Se assistirmos a todos esses anúncios sobre essas tecnologias, isso nos salvará. Mas se o vemos dessa maneira desapegada, se o vemos como algo semelhante a Deus, o que isso nos encoraja?

Esta história foi publicada pela primeira vez no boletim Recode. Assine aqui para não perder o próximo!