Por redação AIoT Brasil

O nome é um pouco complicado: AIAAIC, iniciais de “AI, Algorithmic and Automation Incidents and Controversies”, ou incidentes e controvérsias de inteligência artificial, algoritmos e automação, em tradução livre.

Trata-se de um levantamento global que vem ganhando força entre especialistas e pesquisadores, à medida que as ferramentas de inteligência artificial são cada vez mais utilizadas e, consequentemente, aumenta o número de conflitos éticos que envolvem a tecnologia.

Criada em junho de 2019 pelo escritor e jornalista britânico Charlie Pownall, como uma iniciativa privada, independente, apartidária e de interesse público, a AIAAIC atua como um repositório de incidentes e problemas relacionados à IA.

Posteriormente, evoluiu para um projeto mais abrangente que coleta, examina e divulga problemas relacionados a sistemas de IA e passou a ser usado por pesquisadores, acadêmicos, advogados, jornalistas, legisladores e especialistas do setor em todo o mundo.

Até agora o repositório já compilou mais de 1 mil casos de falta de transparência ou de ética duvidosa, das mais diversas origens. Relata, por exemplo, a decisão da cidade do Rio de Janeiro de testar, em 2019, uma ferramenta de reconhecimento facial para identificar criminosos, em um programa que registrou uma taxa de erro de 90% e resultou em múltiplas prisões indevidas.

Neste ano, até meados de agosto, já haviam sido compilados 97 incidentes, entre os quais o que foi provocado por Eliot Higgins, fundador do site Belingcat, ao usar a IA de geração de imagens Midjourney para criar imagens falsas do ex-presidente norte-americano Donald Trump sendo derrubado e preso por policiais de Nova York. Nesse caso, depois da denúncia, Higgins foi banido da plataforma.

Os responsáveis pela AIAAIC afirmam: “Acreditamos que todos devem saber quando estão sendo usados, avaliados, cutucados, instruídos ou coagidos por um algoritmo ou por sistemas de IA e de automação, para entender o que o sistema está tentando alcançar e como funciona, avaliar seu impacto e ser capaz de tomar decisões com base em informações claras, concisas, precisas, acessíveis e oportunas”.