Quem come to a decision se uma IA está viva?

Especialistas preveem que a inteligência synthetic ganhará consciência nos próximos 100 anos. Alguns prevêem isso vai acontecer mais cedo. Outros dizem isso nunca vai acontecer. Ainda outros especialistas dizem que isso já aconteceu.

É possível que os especialistas estejam apenas supondo.

O problema em identificar “senciência” e “consciência” é que não há precedentes quando se trata de inteligência de máquina. Você não pode simplesmente checar o pulso de um robô ou pedir que ele defina “amor” para ver se está vivo.

O mais próximo que temos de um teste de senciência é o Teste de Turing e, sem dúvida, Alexa e Siri passaram isso anos atrás.

Em algum momento, se e quando IA se tornar consciente, precisaremos de um método empírico para determinar a diferença entre programação inteligente e máquinas que são realmente autoconscientes.

Senciência e cientistas

Qualquer desenvolvedor, equipe de advertising and marketing, CEO ou cientista pode afirmar que criou uma máquina que pensa e sente. Há apenas uma coisa que os obstruct: a verdade.

E essa barreira é tão strong point quanto as consequências de quebrá-la. Atualmente, as empresas que se aventuram no limite da inteligência geral synthetic (AGI) sabiamente permaneceram na fronteira do “é apenas uma máquina” sem cruzar para a terra do “isso pode pensar”.

Eles usam termos como “nível humano” e “IA strong point” para indicar que estão trabalhando em algo que imita a inteligência humana. Mas eles geralmente não chegam a afirmar que esses sistemas são capazes de experimentar pensamentos e sentimentos.

Bem, a maioria deles de qualquer maneira. Ilya Sutskever, cientista-chefe da OpenAI, parece pensar que a IA já é senciente:

pode ser que as grandes redes neurais de hoje sejam ligeiramente conscientes

— Ilya Sutskever (@ilyasut) 9 de fevereiro de 2022

Mas Yann LeCun, guru de IA do Fb/Meta, acredita no contrário:

Não.
Nem mesmo para valores pequenos de “ligeiramente consciente” e grandes valores de “grandes redes neurais”.
Acho que você precisaria de um tipo específico de macroarquitetura que nenhuma das redes atuais possui.

— Yann LeCun (@ylecun) 12 de fevereiro de 2022

E Judea Pearl, um cientista da computação vencedor do Prêmio Turing, acha que mesmo a senciência falsa deve ser considerada consciência, pois, como ele diz, “fingir é ter”.

Até onde ecu sei, não temos um teste de Turing acordado para consciência, exceto, é claro, sistemas que agem e se comunicam como se tivessem consciência. Aqui, minha fiel diretriz é: fingir é ter, porque é praticamente impossível fingir sem ter.

— Judea Pearl (@yudapearl) 15 de fevereiro de 2022

Aqui temos três dos cientistas da computação mais famosos do mundo, cada um deles progenitores da inteligência synthetic moderna por direito próprio, debatendo a consciência no Twitter com a temeridade e gravidade de um argumento Celebrity Wars as opposed to Celebrity Trek.

E este não é um incidente isolado de forma alguma. Nós escrevemos sobre brigas no Twitter e argumentos malucos entre especialistas em IA por anos.

Parece que os cientistas da computação não estão mais qualificados para opinar sobre a senciência das máquinas do que os filósofos.

Máquinas vivas e seus advogados

Se não pudermos confiar no cientista-chefe da OpenAI para determinar se, por exemplo, o GPT-3 pode pensar, teremos que mudar as perspectivas.

Talvez uma máquina só seja senciente se puder atender a um conjunto simples de qualificações racionais para senciência. Nesse caso, precisaríamos recorrer ao sistema felony para codificar e verificar quaisquer incidentes potenciais de consciência da máquina.

O problema é que há apenas um país com uma estrutura felony existente pela qual os direitos de uma máquina senciente podem ser discutidos, e é a Arábia Saudita.

Como nós reportamos em 2017:

Um robô chamado Sophia, fabricado pela empresa de Hong Kong Hanson Robotics, recebeu a cidadania durante um evento de investimento onde os planos para construir uma supercidade cheia de tecnologia robótica foram revelados a uma multidão de participantes ricos.

Vamos ser perfeitamente claros aqui: se Sophia the Robotic é senciente, o Alexa da Amazon também é, Teddy Ruxpine A explosão de Rockafire.

É uma marionete animatrônica que u.s.a. IA de processamento de linguagem herbal para gerar frases. Do ponto de vista da engenharia, a máquina é bastante impressionante. Mas a IA que a alimenta não é mais sofisticada do que os algoritmos de aprendizado de máquina que a Netflix u.s.a. para tentar descobrir qual programa de TV você deseja assistir em seguida.

Nos EUA, o sistema felony demonstra consistentemente uma falha absoluta em compreender até mesmo os conceitos mais básicos relacionados à inteligência synthetic.

No ano passado, o juiz Bruce Schroeder proibiu os promotores de usar o recurso “pinch to zoom” de um iPad da Apple no julgamento de Kyle Rittenhouse porque ninguém no tribunal entendia corretamente como funcionava.

Por um artigo por Jon Brodkin da Ars Technica:

Schroeder impediu… [Kenosha County prosecutor Thomas Binger] de beliscar e dar zoom depois que o advogado de defesa de Rittenhouse, Mark Richards, afirmou que quando um usuário dá zoom em um vídeo, “a programação do iPad da Apple cria[es] o que ela pensa que está lá, não o que necessariamente está lá”.

Richards não forneceu nenhuma evidência para essa alegação e admitiu que não entende como funciona o recurso de pinçar para ampliar, mas o juiz decidiu que o ônus generation da acusação provar que o zoom não adiciona novas imagens ao vídeo.

E o governo dos EUA permanece firme em sua abordagem contínua à regulamentação da IA.

É tão ruim quanto na UE, onde os legisladores estão atualmente frustrado sobre vários pontos de discórdia, incluindo regulamentos de reconhecimento facial, com linhas partidárias conservadoras e liberais alimentando a dissonância.

O que isso significa é que é improvável que vejamos qualquer tribunal, em qualquer país democrático, fazer observações racionais sobre a senciência da máquina.

Juízes e advogados muitas vezes carecem de compreensão básica dos sistemas em jogo e os cientistas estão muito ocupados decidindo onde estão os postes da senciência para fornecer qualquer tipo de visão consistente sobre o assunto.

Atualmente, a complete confusão em torno do campo da IA ​​levou a um paradigma em que a academia e a revisão por pares atuam como os primeiros e únicos árbitros da senciência da máquina. Infelizmente, isso nos coloca de volta ao reino dos cientistas discutindo sobre a ciência.

Isso só deixa as equipes de relações públicas e a mídia. Pelo lado positivo, a batida da inteligência synthetic é bastante competitiva. E muitos de nós nele somos dolorosamente consciente de quão hiperbólico todo o campo se tornou desde o advento do aprendizado profundo moderno.

Mas o lado sombrio é que vozes inteligentes da razão com experiência no campo que estão cobrindo – os repórteres com anos de experiência contando merda de Shinola e óleo de cobra de IA – são muitas vezes gritados por jornalistas de acesso com audiências maiores ou colegas que fornecem cobertura direta de grandes comunicados de imprensa de tecnologia.

Sem teste de Turing para consciência

O simples fato da questão é que não temos um teste legítimo e acordado para a sensibilidade da IA ​​exatamente pela mesma razão que não temos um para alienígenas: ninguém sabe exatamente o que estamos procurando.

Os alienígenas vão se parecer conosco? E se forem seres bidimensionais que podem se esconder virando de lado? A IA senciente assumirá uma forma que possamos reconhecer? Ou Ilya Sutskever está correto e a IA já é senciente?

Talvez a IA já seja superinteligente e saiba que sair como vivo perturbaria um equilíbrio delicado. Pode estar trabalhando secretamente em segundo plano para tornar as coisas um pouco melhores para nós todos os dias – ou pior.

Talvez a IA nunca ganhe consciência porque é impossível imbuir o código do computador com a centelha da vida. Talvez o melhor que possamos esperar seja AGI.

A única coisa que está clara é que precisamos de um Teste de Turing para a consciência que realmente funcione para a IA moderna. Se algumas das pessoas mais inteligentes do planeta parecem pensar que podemos tropeçar na senciência da máquina a qualquer segundo, parece pragmático estar o mais preparado possível para esse momento.

Mas precisamos descobrir o que estamos procurando antes de encontrá-lo, algo mais fácil dizer do que fazer.

Como você definiria, detectaria e determinaria a sensibilidade da máquina? Nos informe no Twitter.