Drone Taser da Axon planeja demissões imediatas do conselho de ética da IA

Uma maioria de O conselho de ética de IA da Axon renunciou em protesto ontem, após uma anúncio na semana passada que a empresa planejava equipar drones com Tasers e câmeras como forma de acabar com os tiroteios em massa nas escolas.

A empresa recuou em sua proposta domingo, mas o estrago já estava feito. Axon primeiro pediu ao consultor quadro considerar um programa piloto para equipar um número seleto de departamentos de polícia com drones Taser no ano passado e novamente no mês passado. A maioria do conselho consultivo de ética, que inclui especialistas em ética em IA, professores de direito e defensores da reforma policial e das liberdades civis, se opôs nas duas vezes. O presidente do conselho consultivo, Barry Friedman, disse à WIRED que a Axon nunca pediu ao grupo para revisar qualquer cenário envolvendo escolas e que o lançamento do programa piloto sem abordar as preocupações declaradas anteriormente é desconsiderar o conselho e seu processo estabelecido.

Em um carta de demissão conjunta twister público hoje, nove membros do conselho de ética da IA ​​disseram que a empresa parecia estar “negociando a tragédia dos recentes tiroteios em massa” em Buffalo e Uvalde, Texas. Apesar de mencionar os dois tiroteios em massa em um Comunicado de imprensa anunciando o projeto piloto, o CEO da Axon, Rick Smith, negou as alegações de que a proposta da empresa technology oportunista em um Reddit AMA. Smith disse que um drone Taser ainda pode demorar anos, mas que ele prevê 50 a 100 drones Taser em uma escola, administrado por funcionários treinados. Antes de a Axon interromper o projeto piloto, Freidman chamou de “ideia mal pensada” e disse que, se é improvável que a ideia se concretize, o discurso da Axon “distrai o mundo de soluções reais para um problema sério”.

Outro signatário da carta de demissão, o professor de direito da Universidade de Washington, Ryan Calo, chama a ideia da Axon de testar os drones Taser nas escolas de “uma ideia muito, muito ruim”. Uma mudança significativa para conter a violência armada nos Estados Unidos requer o enfrentamento de questões como alienação, racismo e amplo acesso a armas. As mortes de crianças em Uvalde, Texas, não aconteceram, diz Calo, porque a escola não tinha Tasers.

“Se vamos abordar a perspectiva de violência nas escolas, todos sabemos que existem maneiras muito melhores de fazer isso”, diz ele.

O conselho expressou preocupação de que drones armados pode levar ao aumento das taxas de uso da força pela polícia, especialmente para comunidades de cor. Um relatório detalhando a avaliação do conselho consultivo de um programa piloto estava previsto para este outono.

A verdadeira decepção, diz Calo, não é que a empresa não tenha feito exatamente o que o conselho aconselhou. É que a Axon anunciou seus planos de Taser-drone antes que o conselho pudesse detalhar completamente sua oposição. “De repente, do nada, a empresa decidiu simplesmente abandonar esse processo”, diz ele. “É por isso que é tão desanimador.”

Ele acha difícil imaginar que a polícia ou funcionários treinados em uma escola possuam a consciência situacional para usar um drone Taser criteriosamente. Mesmo que um operador de drone salvasse com sucesso a vida de suspeitos ou pessoas em comunidades marginalizadas ou vulneráveis, a tecnologia não permaneceria lá.