Hodiernamente, ouve-se muito sobre inteligência artificial, e frases como "IA é como magia, ela pode fazer qualquer coisa!", "Inteligência artificial vai substituir todos os empregos humanos”, “As máquinas vão nos dominar”, dentre outras, mas o que é inteligência artificial? Segundo o europa.eu, a inteligência artificial (IA) é a capacidade que uma máquina tem para reproduzir competências semelhantes às humanas, como é o caso do raciocínio, a aprendizagem, o planejamento e a criatividade[1].
Em 2019 houve um estudo que descobriu um risco potencial com carros autônomos, eles possuíam falhas na detecção de pedestres de pele escura. Os autores do estudo começaram a se perguntar coisas simples, dentre elas, o quão preciso são os modelos de detecção de objetos de última geração, como os usados em carros autônomos, para detectar pessoas de diferentes grupos demográficos? Assim, para descobrir a respostas eles analisaram um grande conjunto de imagens que continham pedestres. Eles dividiram as pessoas usando a escala Fitzpatrick, um sistema de classificação de tons de pele humana, do claro ao escuro[2].
Os pesquisadores analisaram como os modelos de detecção identificavam pessoas em grupos de pele clara e pele escura. Eles descobriram que a precisão da detecção foi cerca de 5 pontos percentuais menor para o grupo de pele escura, mesmo considerando fatores como horário das imagens e obstruções na visão. Infelizmente os algoritmos podem refletir os preconceitos de seus criadores. As percepções do estudo somam-se a um crescente conjunto de evidências sobre como o viés humano penetra em nossos sistemas automatizados de tomada de decisões. O que mostra o mau uso da tecnologia, assim podendo causar acidentes evitáveis e tratamento discriminatório com base em características físicas de uma pessoa.
Em continuidade, autores do estudo identificaram que alguns fatores estariam alimentando a disparidade. Em primeiro lugar, os modelos de detecção haviam sido em grande parte treinados em exemplos de pedestres de pele clara. Em segundo lugar, os modelos não deram peso o suficiente para aprender com os poucos exemplos de pessoas de pele escura. Segundo os pesquisadores, para minimizar o problema, seria necessário dar mais peso a essa amostra nos dados de treinamento que podem ajudar a corrigir o viés. Assim como incluir mais exemplos de pessoas de pele escura desde o início.
Referências
[1] Europa, .Disponível em: https://www.europarl.europa.eu/news/pt/headlines/society/20200827STO85804/o-que-e-a-inteligencia-artificial-e-como-funciona#:~:text=A%20intelig%C3%AAncia%20artificial%20(IA)%20%C3%A9,o%20planeamento%20e%20a%20criatividade.
[2] Estudo realizado. Disponível em: https://arxiv.org/pdf/1902.11097.pdf
Comentários
Postar um comentário