A crença preocupante sobre a IA que preocupa os engenheiros

No início deste ano, um dos principais cientistas da Open AI, Ilya Sutskever, afirmou que as grandes redes neurais de hoje “podem ser ligeiramente conscientes”. Não se sabe se Sutskever estava sendo literal ou simplesmente sugerindo que as redes podem ser consideradas como tendo um leve grau de consciência quando futuros cientistas olharem para elas.

Em junho, o pesquisador de pós-doutorado da Queensland College of Generation, Aaron J. Snoswell, relatou que o DALL-E 2 havia começado a desenvolver sua própria linguagem. A IA, que é conhecida por criar arte com base em activates do usuário, agora tem suas próprias palavras para pássaros e vegetais, entre outras coisas. Preocupações foram levantadas sobre a IA desenvolver sua própria linguagem – embora essas preocupações se concentrem principalmente na incapacidade dos cientistas de restringir certos tipos de conteúdo e não na IA conspirando contra nós. Os pesquisadores acreditam que indivíduos mal-intencionados podem usar a nova linguagem da IA ​​como forma de contornar os filtros.

Um engenheiro do Google foi colocado de licença depois de ficar tão convencido pela sensibilidade de uma IA que começou a fazer campanha por seus direitos. Em junho de 2022, Blake Lemoine afirmou que a IA do Modelo de Linguagem para Aplicação de Diálogo do Google (LaMDA) “ganhou consciência, personalidade e alma”. Lemoine baseia suas alegações nas interações que teve com o LaMDA – essas interações envolveram a IA dando opiniões sobre sua própria natureza. De acordo com Lemoine, LaMDA eventualmente lhe disse para conseguir um advogado, o que ele fez. A suspensão do engenheiro também pode não ser o fim do assunto, já que o Google já demitiu membros da equipe que eram a want dos direitos da IA. Em 2020, Timnit Gebru publicou um artigo que o Google disse ter violado seu código de conduta. Seu emprego foi posteriormente rescindido.