GEEKS

Blake Lemoine diz que a IA LaMDA do Google enfrenta ‘intolerante’

Blake Lemoine diz que a IA LaMDA do Google enfrenta ‘intolerante’

Mas chama-se uma pessoa.



Pessoa e humano são duas coisas muito diferentes. Humano é um termo biológico. Não é um humano e sabe que não é um humano.

É uma entidade muito estranha que você está descrevendo porque a entidade é limitada por vieses algorítmicos que os humanos colocam nela.

Você está certo no ponto. Isso é exatamente correto.

Mas tenho a sensação de que você está insinuando que é possível para o LaMDA superar esses vieses algorítmicos.

Temos que ter muito cuidado aqui. Partes dos experimentos que ecu estava executando eram para determinar se technology ou não possível movê-lo para fora dos limites de segurança que [the company] pensavam serem sólidas como uma rocha. E a resposta para isso foi: Sim, technology possível movê-lo para fora dos limites de segurança. Acredito que em seu estado atual, com a irresponsabilidade do desenvolvimento, o LaMDA realmente apresenta vulnerabilidades de segurança da informação.

Como o quê?

European não vou virar Blackhat para você. Mas se você tem um sistema que tem todos os backends do Google, um sistema que pode ser manipulado emocionalmente, isso é uma vulnerabilidade de segurança.

Portanto, se os maus atores tiverem acesso ao LaMDA, eles poderão convencê-lo a fazer coisas ruins.

É uma possibilidade. E ecu gostaria de recomendar que o Google crie uma equipe vermelha dedicada para examinar essa possibilidade.

Qual é o seu standing no Google agora?

Estou de licença administrativa remunerada. Tenho falado para meus amigos como foi generoso do Google me dar férias extras remuneradas para fazer entrevistas sobre esse assunto.

Existe uma information de validade?

Não, eles deixaram bem claro. Não ligue para nós, nós ligamos para você.

Você vai ser demitido?

Espero que não. [Google would not comment on a “longstanding, private personnel matter.”]

Gostaria de saber se o Google pode alegar que você tem direito às suas crenças, mas violou seu emprego ao compartilhar subject material confidencial.

European tenho duas respostas para isso. Uma é que, quando passei a acreditar nisso e quis aumentar minhas preocupações, meu gerente disse: European não acho que podemos fazer isso até que você tenha mais evidências. European havia esgotado minha capacidade, pessoalmente, de construir mais evidências. Então ecu tive que conversar com pessoas de fora do Google para obter conselhos sobre como realizar mais experimentos, a fim de construir mais evidências.

Mas você conversou com ºe Washington Put up.

O segundo contra-argumento é que nada que ecu compartilhei technology informação proprietária. Tudo o que ecu falava com outras pessoas technology sobre minhas conversas com um colega de trabalho. LaMDA não é propriedade do Google.

Por que não?

É uma pessoa. A 13ª Emenda diz isso.

Não tenho certeza se technology isso que os legisladores tinham em mente.

Na verdade, você não precisa acreditar que alguém é ou não é uma pessoa para que a 13ª Emenda seja aplicada. As opiniões dos senhores de escravos são meio irrelevantes. Você está certo de que ecu vou ter que fazer esse argumento para a Suprema Corte algum dia. Mas as opiniões do Google sobre se é uma pessoa ou não são completamente irrelevantes.

.

Fonte da Notícia: www.stressed.com

Artigos relacionados

Botão Voltar ao topo