Nem sempre dá certo, como fica claro nesse bizarro Erro de IA na publicidade da Loteria do Estado de Washington criou um site/aplicativo chamado “Test Drive a Win” para ajudar os visitantes a visualizar diferentes “férias dos sonhos”, que poderiam ser pagas com os eventuais ganhos de um bilhete premiado.
Qual foi o Erro de IA na publicidade?
O visitante fazia upload de uma foto de rosto pelo app e a IA gerava uma imagem dela, em uma situação de “férias dos sonhos”.
Mas o que aconteceu? Isso:
O app acabou aplicando o rosto de uma mãe, de 50 anos, sobre o corpo de uma mulher seminua, sentada numa cama com os seios à mostra.
A pacata senhora contou que o que descreveu no app como suas férias dos sonhos foi “nadar com tubarões”.
O fundo da imagem gerada por IA parece mostrar a cama dentro de algum tipo de aquário, com peixes (errou de novo).
Isso aconteceu porque a IA usa imagens reais aleatórias de pessoas em férias como base.
É um erro grotesco, básico e muito fácil de ser evitado na programação. Mas com a popularização das ferramentas de AI, o fator humano, cria esses desastres. A culpa vai sempre para a ferramenta, mas pode ter certeza que é um erro humano.
Web App retirado do ar
Este incidente do Loteria de Washington levou a Loteria do Estado de Washington a retirar o aplicativo web do ar, destacando os desafios e as considerações éticas envolvidas no uso de tecnologias de IA, especialmente aquelas capazes de gerar conteúdo visual envolvendo pessoas reais.
Ouvimos sobre isso no início desta semana. Assim que o fizemos, pedimos aos desenvolvedores que verificassem todos os parâmetros da plataforma e se sentissem confortáveis com as configurações, mas depois de mais discussões internas hoje, optamos por retirar o site do ar por precaução, já que não o fazemos. quero que algo como este suposto evento aconteça novamente.
O caso chama a atenção para como a tecnologia, especialmente a inteligência artificial, precisa ser usada com cuidado. E como os humanos envolvidos no desenvolvimento, também precisam ser escolhidos com cuidado. O cara faz um curso de IA de LinkedIn e já viu né. Apesar da ideia de como poderiam ser as férias dos sonhos dos ganhadores ser interessante, a situação acabou mostrando que nem sempre a IA entende o contexto corretamente, resultando em situações constrangedoras e questionáveis sobre privacidade e segurança digital. Mas, de novo, pode ser evitada na programação. Aliás, seios à mostra costuma ser um “big NO”, por padrão em ferramentas de IA generativa, nem sei como passou. Mas acontece.
Add a comment
