A co-fundadora do AI Now Institute, Kate Crawford, e o artista Trevor Paglen, desenvolveram a IA especificamente para esclarecer os perigos do uso de conjuntos de dados com preconceitos arraigados, observando no site que a AI “classifica regularmente as pessoas de maneira dúbia e cruel“. – Basicamente, o projeto quer mostrar bases que outros projetos de IA tem usado e são perigosos.
A IA foi treinada em um conjunto de dados enorme e significativo de imagens chamado ImageNet. As classificações que ele pode apresentar são incrivelmente amplas, incluindo termos como “usuário do computador“, “avó” e “primeiro infrator“, para citar alguns.
Antes de correr para lá, para brincar com a foto sua e de seus amigos, fica o aviso: Crawford e Paglen apontam que, o site que o ImageNet “contém várias categorias problemáticas, ofensivas e bizarras – todas extraídas do WordNet. Alguns usam terminologia misógina ou racista“. 
Utilizei de exemplos de FRIENDS para ajudar na ilustração. Reforço, só use com seus amigos e colegas se estritamente explicado, e permitido pelo(a) mesmo(a).
E, como vale apontar nos dias de hoje, a ImageNet Roulette não armazena as fotos que as pessoas carregam ou outros dados.
Se quiser testar o projeto, só visitar a página oficial: https://imagenet-roulette.paglen.com/
