A sensibilidade da IA ​​é importante para a empresa?

A IA pode se tornar senciente? Essa questão está queimando os círculos de tecnologia há várias semanas, desde que um engenheiro solitário do Google afirmou que seu modelo LAMDA havia alcançado tanto a autoconsciência quanto uma alma.

Embora esta seja uma questão importante, não é algo com o qual a empresa exact se preocupar ainda. Mesmo se tal algoritmo surgisse, seria tão útil em um sentido prático?

Consciência synthetic

A sensibilidade da IA ​​tem sido um tópico de debate há décadas, mas teve um pontapé inicial no mês passado, quando Engenheiro do Google, Blake Lemoine, postou conversas com um chatbot que, segundo ele, provou que generation senciente. Lemoine foi rapidamente colocado em licença, mas é interessante notar que isso foi por violar as políticas de confidencialidade da empresa, não que as alegações de sensibilidade tenham cruzado algum tipo de linha.

Os críticos foram rápidos em afirmar que Lemoine havia sido vítima do “Efeito Eliza”, um tipo de antropomorfismo virtual que foi identificado pela primeira vez na década de 1960, quando os pesquisadores acreditavam que seus modelos de IA também se tornaram sencientes. Embora isso possa parecer uma distração inofensiva, na verdade, tornou-se um problema sério no mundo conectado de hoje.

Eugenia Kuyda, CEO da desenvolvedor de chatbot Replika, diz que o fenômeno está se tornando tão difundido nos dias de hoje que as pessoas estão começando a construir relacionamentos reais com seus avatares falantes. Mesmo às vezes a ponto de relatarem que suas Replikas estão sendo abusadas pelos engenheiros da empresa. Muito provavelmente, isso ocorreu devido ao usuário fazer perguntas importantes ao bot, mas ainda aponta para uma tendência perturbadora. Os usuários poderão criar companheiros de sua escolha para receber uma companhia mais recompensadora do que com uma pessoa actual.

Os filósofos vêm debatendo essa natureza da senciência desde os tempos antigos, é claro, e ainda estamos discutindo sobre quanta senciência deve ser atribuída a animais não humanos. Mas autora e conferencista Melanie Mitchell diz que toda IA ​​falha no teste de senciência de várias maneiras importantes. Primeiro, ele não tem conexão com o mundo actual, apenas com o idioma ao qual foi exposto. Em segundo lugar, ele não tem memória – desligue-o ou pare de interagir com ele, e ele não se lembra do passado. Isso é an important para estabelecer um senso de si mesmo. Assim como qualquer algoritmo, a IA processa números e determina probabilidades – mesmo quando está determinando a maneira mais herbal e emotiva de conduzir um diálogo.

Consciência empresarial

Mas se a senciência synthetic ainda não é actual, por que alguns fornecedores de tecnologia estão divulgando sua capacidade de criar o “empresa senciente”? Por um lado, a ambiguidade na terminologia tem sido o sonho de um profissional de advertising and marketing. No entanto, permanece o fato de que, embora a IA de hoje não seja senciente, ela ainda fornece vários recursos úteis para ambientes de dados corporativos. Por uma coisa, Alex Woodie da EnterpriseAI diz que faz maravilhas para name facilities, proporcionando interações naturais com um número ilimitado de usuários simultaneamente a qualquer momento. Além disso, está mostrando notável aptidão em tudo, desde automação de processos até gerenciamento de recursos e até segurança.

Se alguma coisa, então, o perigo no debate sobre a sensibilidade da IA ​​é que ela pode distrair a empresa das questões mais urgentes que cercam o desenvolvimento e a implementação da tecnologia. A repórter sênior de IA do VB, Sharon Goldman, observou as novas legislações e estruturas regulatórias que estão tomando forma nos EUA e na Europa. Essa legislação pendente pode limitar onde, quando e como a IA deve ser utilizada em ambientes públicos e privados. Além disso, há um debate contínuo sobre aspectos cruciais do desempenho da IA, incluindo preconceito, ética e controle geral.

Se chegarmos a um ponto em que possamos definir senciência em relação a uma inteligência synthetic, é difícil ver como isso beneficiaria a empresa. Na verdade, isso provavelmente representaria uma série de problemas. Os seres sencientes têm vontade própria, afinal, e se isso também controlar os mecanismos que produzem bens, fazem vendas e administram as finanças, isso traria um significado totalmente novo ao termo “funcionário problemático”.

Talvez algum dia possamos implementar a IA de uma maneira que se assemelhe à senciência, mas por enquanto provavelmente é melhor se a inteligência synthetic permanecer burra e não autoconsciente.