Como o preconceito da IA ​​afeta nossas vidas: Plano de aula

6ª A 12ª SÉRIES

20 minutos

Objetivos

• Entenda que o preconceito da IA ​​pode impactar as pessoas de diferentes maneiras.
• Reflita sobre os impactos negativos do preconceito em relação à IA.

Vocabulário

• Viés de IA – quando uma ferramenta de IA toma uma decisão errada ou problemática porque aprendeu com dados de treinamento que não trataram todas as pessoas, lugares e coisas com precisão
• dados de treinamento – as informações fornecidas a uma IA para ajudá-la a aprender como realizar tarefas específicas

O que você vai precisar

• Slides da lição
• Folheto: AI de gostosuras ou travessuras
• Apostila: AI de doces ou travessuras (versão do professor)

Passo a passo

1. Pergunte: O que é viés de IA? Como isso acontece? ( Slide 4 )
2. Projete os Slides 5–6 e explique que o viés da IA ​​acontece quando uma ferramenta de IA toma uma decisão errada ou problemática porque aprendeu com dados de treinamento que não trataram todas as pessoas, lugares e coisas com precisão. E os dados de treinamento são as informações fornecidas a uma IA para ajudá-la a aprender como fazer uma tarefa específica.
3. Diga: O viés da IA ​​impacta o quão confiáveis, justas e confiáveis ​​as ferramentas de IA são. E também pode ter um impacto em indivíduos ou grupos de pessoas, mesmo que elas não tenham escolhido usar a ferramenta em primeiro lugar. Vamos dar uma olhada em um cenário ( Slide 7 ).
4. Distribua o folheto do aluno sobre a IA Trick-or-Treat e leia o cenário ( Slides 8–9 ).
5. Explique aos alunos que o distribuidor de doces está operando com viés de IA e que eles terão a oportunidade de refletir sobre como esse viés de IA está impactando os outros.

6. Projete o slide 19 e peça aos alunos que reflitam sobre o que as pessoas podem fazer se perceberem ou vivenciarem preconceito em relação à IA.
7. Quando a Sra. Igwe souber desse problema, o que ela deve fazer?
8. O que os criadores do dispensador de doces podem fazer para tornar seu produto mais justo para todos?
9. Diga: Relatar viés de IA pode ajudar as empresas a melhorar seus produtos. Neste caso, os criadores do dispensador de doces poderiam trabalhar na adição de mais dados de treinamento para que ele pudesse identificar melhor o máximo possível de tipos diferentes de fantasias de Halloween ( Slide 20 ).
10. Pergunte: A IA é treinada em dados do mundo real que as pessoas fornecem a ela, e se esses dados contiverem vieses (ou estiverem incompletos), a IA pode acabar sendo tendenciosa também. Quais são alguns dos impactos e consequências negativas do viés da IA? ( Slide 21 )

• Tratamento injusto: se uma ferramenta de IA for tendenciosa, ela poderá tomar decisões injustas para certos grupos de pessoas
• Estereótipos contínuos: se uma ferramenta de IA aprende com dados que incluem estereótipos (por exemplo, raça ou gênero), ela pode tomar decisões baseadas nessas ideias preconceituosas.
• Oportunidades desiguais: o preconceito da IA ​​também pode limitar as oportunidades de algumas pessoas ao favorecer injustamente outro grupo.
• Desinformação: se uma ferramenta de IA aprende com informações tendenciosas, ela pode acabar criando e espalhando informações falsas ou incompletas.

9. Diga: Saber sobre o viés da IA ​​pode nos ajudar a pensar criticamente e agir de forma responsável se e quando usarmos IA. Se notarmos que o viés da IA ​​está tendo um impacto negativo em alguém ou algo, podemos ajudar relatando isso à empresa ( Slide 23 ).