Uma maioria de O Conselho de Ética de IA da Axon renunciou em protesto ontem, após um anúncio na semana passada de que a empresa planejava equipar drones com Tasers e câmeras como forma de acabar com tiroteios em massa nas escolas.
A empresa recuou em sua proposta no domingo, mas o estrago já estava feito. A Axon primeiro pediu ao conselho consultivo que considerasse um programa piloto para equipar um número selecionado de departamentos de polícia com drones Taser no ano passado e novamente no mês passado. A maioria do Conselho de Ética da IA, que inclui especialistas em ética da IA, professores de direito e defensores da reforma policial e das liberdades civis, se opôs a isso nas duas vezes. O presidente do conselho consultivo, Barry Friedman, disse à WIRED que a Axon nunca pediu ao grupo para revisar qualquer cenário envolvendo escolas e que o lançamento do programa piloto sem abordar as preocupações declaradas anteriormente é desconsiderar o conselho e seu processo estabelecido.
Em uma carta conjunta de renúncia divulgada hoje, nove membros do Conselho de Ética da IA disseram que a empresa parecia estar “negociando a tragédia dos recentes tiroteios em massa” em Buffalo e Uvalde, Texas. Apesar de mencionar os dois tiroteios em massa em um comunicado de imprensa anunciando o projeto piloto, o CEO da Axon, Rick Smith, negou as alegações de que a proposta da empresa generation oportunista em um Reddit AMA. Smith disse que um drone Taser ainda pode demorar anos, mas que ele prevê de 50 a 100 drones Taser em uma escola, administrado por funcionários treinados. Antes de a Axon interromper o projeto piloto, Freidman chamou-a de “ideia mal pensada” e disse que, se é improvável que a ideia se concretize, o discurso da Axon “distrai o mundo de soluções reais para um problema sério”.
Outro signatário da carta de demissão, o professor de direito da Universidade de Washington, Ryan Calo, chama a ideia da Axon de testar os drones Taser nas escolas de “uma ideia muito, muito ruim”. Uma mudança significativa para conter a violência armada nos Estados Unidos requer o enfrentamento de questões como alienação, racismo e amplo acesso a armas. As mortes de crianças em Uvalde, Texas, não aconteceram, diz Calo, porque a escola não tinha Tasers.
“Se vamos abordar a perspectiva de violência nas escolas, todos sabemos que existem maneiras muito melhores de fazer isso”, diz ele.
O conselho já havia expressado preocupação de que drones armados pode levar ao aumento do uso da força pela polícia, especialmente em comunidades de cor. Um relatório detalhando a avaliação do conselho consultivo de um programa piloto estava previsto para este outono.
A verdadeira decepção, diz Calo, não é que a empresa não tenha feito exatamente o que o conselho aconselhou. É que a Axon anunciou seus planos de Taser-drone antes que o conselho pudesse detalhar completamente sua oposição. “De repente, do nada, a empresa decidiu simplesmente abandonar esse processo”, diz ele. “É por isso que é tão desanimador.”
Ele acha difícil imaginar que a polícia ou funcionários treinados em uma escola possuam a consciência situacional para usar um drone Taser criteriosamente. Mesmo que um operador de drone salvasse com sucesso a vida de suspeitos ou pessoas em comunidades marginalizadas ou vulneráveis, a tecnologia não ficaria lá.
.
Fonte da Notícia: www.stressed.com
