AmazonasA .com Inc está planejando lançar cartões de advertência para software vendido por sua divisão de computação em nuvem, devido à preocupação constante de que sistemas artificialmente inteligentes possam discriminar diferentes grupos, disse a empresa.
Semelhante a longos rótulos nutricionais, os chamados AI Service Cards da Amazon serão públicos para que seus clientes corporativos possam ver as limitações de certos serviços em nuvem, como reconhecimento facial e transcrição de áudio. O objetivo seria evitar o uso equivocado de sua tecnologia, explicar como seus sistemas funcionam e gerenciar a privacidade, disse a Amazon.
A empresa não é a primeira a publicar tais advertências. A International Business Machines Corp, uma empresa menor na nuvem, fez isso anos atrás. O terceiro provedor de nuvem, Alphabet Inc’s Google, também publicou ainda mais detalhes sobre os conjuntos de dados que usou para treinar parte de sua IA.
Leia Também
No entanto, a decisão da Amazon de lançar seus três primeiros cartões de serviço na quarta-feira reflete a tentativa da líder do setor de mudar sua imagem depois que uma briga pública com críticos das liberdades civis anos atrás deixou a impressão de que ela se importava menos com a ética da IA do que seus pares. A mudança coincidirá com a conferência anual de nuvem da empresa em Las Vegas.
Michael Kearnsuma Universidade da Pensilvânia professor e desde 2020 um estudioso da Amazon, disse que a decisão de emitir os cartões seguiu auditorias de privacidade e justiça do software da empresa. Os cartões abordariam publicamente as questões éticas da IA em um momento em que a regulamentação da tecnologia estava no horizonte, disse Kearns.
“A maior coisa sobre este lançamento é o compromisso de fazer isso de forma contínua e expandida”, disse ele.
A Amazon escolheu o software que trata de questões demográficas sensíveis como um começo para seus cartões de serviço, que Kearns espera crescer em detalhes ao longo do tempo.
TONS DE PELE
Um desses serviços é chamado de “reconhecimento.” Em 2019, a Amazon contestou um estudo dizendo que a tecnologia lutava para identificar o gênero de indivíduos com tons de pele mais escuros. Mas após o assassinato de George Floyd, um homem negro desarmado em 2020, durante uma prisão, a empresa emitiu uma moratória sobre o uso da polícia. de seu software de reconhecimento facial.
Agora, a Amazon diz em um cartão de serviço visto pela Reuters que o Rekognition não suporta a correspondência de “imagens que são muito borradas e granuladas para o rosto ser reconhecido por um humano, ou que têm grandes porções do rosto ocluídas por cabelos, mãos e outros objetos”. Ele também adverte contra a correspondência de rostos em desenhos animados e outras “entidades não humanas”.
Em outro cartão de alerta visto pela Reuters, sobre transcrição de áudio, a Amazon afirma: “A modificação inconsistente de entradas de áudio pode resultar em resultados injustos para diferentes grupos demográficos”. Kearns disse transcrever com precisão a ampla gama de sotaques e dialetos regionais em América do Norte por si só era um desafio que a Amazon havia trabalhado para enfrentar.
Jessica Newmandiretor da AI Security Initiative no Universidade da Califórnia em Berkeleydisse que as empresas de tecnologia estão publicando cada vez mais tais divulgações como um sinal de práticas responsáveis de IA, embora ainda tenham um longo caminho a percorrer.
“Não devemos depender da boa vontade das empresas para fornecer detalhes básicos de sistemas que podem ter enorme influência na vida das pessoas”, disse ela, pedindo mais padrões da indústria.
Os gigantes da tecnologia têm lutado para tornar esses documentos curtos o suficiente para que as pessoas os leiam, mas suficientemente detalhados e atualizados para refletir ajustes frequentes de software, disse uma pessoa que trabalhou com rótulos nutricionais em duas grandes empresas.
FacebookTwitterLinkedin