Prévia do material em texto

Primeiro, a equipe deve definir as personas e os tipos de explicação que cada uma precisa. 
 Depois a equipe pode pensar em como compartilhar essas explicações com diferentes 
 personas sem desmerecer a experiência de usuário delas. 
 Para a pergunta 3: Qual método de explicação corresponderá melhor à expectativa de cada 
 persona? 
 Os métodos de explicação são diferentes para diferentes consumidores. Compreender as 
 necessidades e os objetivos do consumidor ajuda na escolha do método adequado. O 
 design thinking pode ajudar a equipe a considerar as necessidades e os objetivos do 
 consumidor. 
 1.Quando os médicos usam IA para ajudá-los a fazer um diagnóstico médico, é importante 
 que a IA tenha qual das opções a seguir? 
 Selecione todas as opções aplicáveis 
 A. Explicabilidade 
 B. Interpretabilidade 
 2.Interpretabilidade é o grau em que um observador pode entender a causa de uma 
 decisão. 
 3.Qual das opções a seguir descreve um sistema de IA em que pessoas comuns, que não 
 receberam um treinamento especial em IA, podem entender como e porque o sistema 
 chegou a uma determinada predição ou recomendação? 
 Explicável 
 A. O sistema de IA é tendencioso. 
 B. O sistema de IA e muito robusto. 
 C. O sistema de IA tem pouca explicabilidade. 
 D. O sistema de IA e transparente. 
 4.Qual das opções a seguir seria verdadeira para o sistema de IA mostrado no seguinte 
 gráfico? 
 C)O sistema de IA tem pouca explicabilidade. 
 5.Ao desenvolver explicações para a saída de um modelo de IA, é importante lembrar que 
 as explicações devem _____________ dependendo da persona usuário. 
 Acceptable responses: trocar, mudar, diferir, alterar, ser adaptadas, ser diferentes 
 A mesma explicação não funcionará para todos os usuários de um modelo de IA. As 
 explicações podem mudar com base no papel do usuário. Por exemplo, os usuários podem 
 querer saber porque uma IA recomenda um determinado produto ou serviço enquanto um 
 auditor pode querer avaliar o modelo quanto aos requisitos regulamentares ou às políticas 
 internas. 
 Módulo 5 
 O que é transparência? 
 Introdução 
 Quando um sistema de IA é transparente, ele compartilha informações sobre quais dados 
 ele coleta, como ele usa e armazena os dados e quem tem acesso aos dados. Quando 
 efetivamente implementada, a transparência na IA é como abrir o capô de um carro para 
 que todas as pessoas vejam como as diferentes partes do motor trabalham juntas. 
 Objetivos de aprendizado 
 Depois de concluir este módulo, você deverá estar apto para: 
 Definir transparência 
 Descrever controle 
 Identificar as funções de negócios e os aspectos da transparência em que elas estão 
 envolvidas. 
 Módulo 5 
 O que é transparência? 
 Introdução 
 Quando um sistema de IA é transparente, ele compartilha informações sobre quais dados 
 ele coleta, como ele usa e armazena os dados e quem tem acesso aos dados. Quando 
 efetivamente implementada, a transparência na IA é como abrir o capô de um carro para 
 que todas as pessoas vejam como as diferentes partes do motor trabalham juntas. 
 Objetivos de aprendizado 
 Depois de concluir este módulo, você deverá estar apto para: 
 Definir transparência 
 Descrever controle 
 Identificar as funções de negócios e os aspectos da transparência em que elas estão 
 envolvidas 
 Na história a seguir, você aprenderá sobre transparência com Patricia, Abi, Stacey e Daniel 
 enquanto eles trabalham para deixar o sistema de IA deles mais transparente para os 
 usuários. 
 Uma das maiores empresas financeiras do mundo está testando um sistema de IA para 
 automatizar seu processo de aprovação de hipoteca. Abi, o proprietário do negócio, está 
 impressionado com o sistema até agora e pediu para ver detalhes importantes sobre ele 
 para entendê-lo melhor. O pedido de Abi faz com que a equipe perceba que os detalhes 
 importantes não estão claramente documentados e, portanto, não são fáceis de entender. 
 Esta história cobre o que a equipe fez para aumentar a transparência e criar uma norma 
 para documentar detalhes, desde as fontes de dados até como o sistema faz predições e 
 recomendações. 
 A empresa está na fase de defender a transformação digital usando dados e IA. Além disso, 
 ela fez investimentos significativos na contratação de especialistas em IA para ser pioneira 
 em sua jornada de inovação em IA. 
 A equipe de IA da empresa está ansiosa para explorar ideias para automatizar seu 
 processo de aprovação de hipoteca usando IA. Em um mês, a equipe desenvolveu um 
 sistema de prova de conceito para automatizar o processo de aprovação de hipoteca. 
 Stacey, a Chefe de IA, apresenta a prova de conceito para o proprietário do negócio, Abi. 
 Stacey conclui a apresentação dizendo que a equipe estava determinada a criar um sistema 
 de IA confiável. Para assegurar isso, eles tomaram as ações a seguir: 
 Avaliaram a justiça do modelo 
 Incluíram funções de explicabilidade 
 Testaram a robustez com relação a ataques adversários 
 Documentaram todas as medidas de privacidade de dados 
 SStacey então se volta para Abi esperando que ele aprove o sistema de IA. 
 Abi começa dizendo: “Quero agradecer a você e à equipe pelo trabalho árduo para 
 desenvolver esta prova de conceito. Estou muito animado e ansioso com a nova jornada de 
 IA de nossa empresa. 
 “No entanto, estou curioso para saber mais sobre a origem de dados, como nós 
 transformamos os dados, como todas informações pessoalmente identificáveis foram 
 tratadas, o desempenho do modelo e outros resultados da avaliação. Você pode fornecer 
 mais detalhes sobre todo o processo e as decisões tomadas?” 
 Stacey manda uma mensagem para Daniel e pede os dados solicitados. 
 Daniel senta em seu computador e começa a olhar os arquivos. Enquanto examina os 
 detalhes, ele percebe que cada membro da equipe tinha sua própria maneira de registrar o 
 processo e as descobertas feitas. Nenhum dos detalhes foi registrado de forma consistente. 
 Daniel hesita em encaminhar o link para a documentação porque sabe que as informações 
 não podem ser facilmente compreendidas. 
 Daniel demonstra confusão e desânimo diante da inconsistência dos dados registrados no 
 computador 
 Conforme Stacey e Abi começam a revisar os detalhes, eles percebem a necessidade de 
 padronizar o processo do documentação. 
 Abi (ele/dele), Proprietário do Negócio 
 Abi conclui: “Podemos consertar isso! Vamos nos conectar com Patricia para discutir como 
 podemos aumentar a transparência no processo e criar um modo padrão de documentar 
 detalhes para aprimorar o controle.” 
 Patricia, Stacey e Abi se encontram em uma sala de reunião. Patrícia prepara uma sessão 
 de troca de ideias. 
 Patricia começa a escrever os objetivos de alto nível de transparência e controle. 
 Transparência 
 é a divulgação de informações relacionadas aos dados utilizados para a construção de 
 sistemas de IA, às decisões de design tomadas durante o processo e à criação, avaliação e 
 implementação do modelo. 
 Controle 
 é a garantia de que o processo seguido durante a criação e implementação obedece às 
 políticas internas para a construção de IA confiável. 
 Ao aumentarmos a transparência, podemos aprimorar o controle. 
 Patrícia ressalta a necessidade de assegurar que o processoabranja as áreas de foco da 
 organização durante a construção de sistemas de IA. Para refrescar a memória da equipe, 
 ela menciona que as áreas de foco são justiça, robustez, explicabilidade, transparência e 
 privacidade. 
 Patrícia começa: “Vamos tentar um exercício simples. Vamos criar uma estrutura simples 
 para nos ajudar a entender quais detalhes importantes sobre o sistema estão disponíveis e 
 quem pode fornecê-los.” 
 Stacey e Abi estão empolgados com o exercício e prontos para começar imediatamente. 
 Patricia (ela/dela), Diretora de Dados (CDO) 
 “Tudo bem”, diz Patrícia, “vamos começar. Stacey, você pode me fornecer uma lista das 
 funções que participaram da criação de nosso sistema de IA? E Abi, você pode me fornecer 
 uma lista dos fatos que a equipe precisa coletar?” 
 Tanto Abi quanto Stacey começam a escrever as informações. Depois de um tempo, 
 Patrícia vai até o quadro branco e o divide em duas seções. Ela pede a Abi e Stacey que 
 incluam os detalhes coletados para ter uma visualização holística. 
 Observação: para os propósitos da história, as coisas são feitas rapidamente, mas na 
 realidade, o processo deve ser mais deliberativo. 
 A equipe olha para o quadro e sente-se motivada para ver as coisas finalmente se 
 encaixando. 
 Patricia (ela/dela), Diretora de Dados (CDO) 
 “Isso é ótimo”, comemora Patricia. “Agora, vamos mapear as funções para os fatos. 
 Fazendo esse mapeamento, podemos esclarecer as responsabilidades das pessoas 
 envolvidas no processo.” 
 Selecione cada uma das cinco guias a seguir para ver como os fatos são mapeados para as 
 funções. 
 Proposito: 
 Design