O viés humano na máquina do AI

Como a inteligência artificial está sujeita ao viés cognitivo.

Fonte: Pixabay

A inteligência artificial (IA) pode resultar em avanços positivos e conseqüências negativas não intencionais. Uma área chave que merece mais pesquisas é o impacto do viés cognitivo humano na IA. Harvard e MIT George Church, Singularity University Neil Jacobstein, MIT Físico Max Tegmark, Economia do Comportamento e Cientista de Dados Colin WP Lewis, Ph.D., Oxford Professor de Filosofia Nick Bostrom, SpaceX e Tesla Motors Fundador Elon Musk, co-fundador da Apple Steve Wozniak e o físico de Cambridge Stephen Hawking estão entre as mais de 8.000 pessoas que assinaram uma carta aberta sobre inteligência artificial que busca pesquisas sobre como colher os benefícios da IA, evitando as armadilhas [1].

“Sucesso na criação de IA efetiva, poderia ser o maior evento da história da nossa civilização. Ou o pior. ”Stephen Hawking, Físico

• Por que a inteligência financeira é tão emocional?
• Odiar os patriotas é natural para muitos
• Ausência de sintomas nem sempre significa “boa” saúde mental
• Minhas memórias vivem em uma antiga fazenda
• Nem todas as exposições são criadas da mesma forma

Como o cérebro humano, a inteligência artificial está sujeita ao viés cognitivo. Vieses cognitivos humanos são heurísticas, atalhos mentais que distorcem a tomada de decisão e o raciocínio, resultando em erros de raciocínio. Exemplos de vieses cognitivos incluem estereotipagem, o efeito bandwagon, viés de confirmação, priming, percepção seletiva, a falácia do jogador e o viés de seleção observacional. O número total de vieses cognitivos está em constante evolução, devido à identificação contínua de novos vieses.

O viés cognitivo humano influencia a IA através de dados, algoritmos e interação. O aprendizado de máquina, um subconjunto da inteligência artificial, é a capacidade de os computadores aprenderem sem programação explícita. O aprendizado da IA ​​é moldado por dados, algoritmos e experiência por meio de interações e iterações. O tamanho, estrutura, metodologia de coleta e fontes de dados impactam o aprendizado de máquina. O aprendizado de máquina depende da qualidade dos conjuntos de dados de aprendizado. Assim como nos humanos, na IA quanto mais objetivos os dados e quanto maior o conjunto de dados, menor a possibilidade de distorção [2].

O fator subjacente comum em vieses cognitivos é a inclinação. Proneness em AI é influenciada através da atribuição de peso sobre os parâmetros e nós de uma rede neural, um sistema de computador modelado no cérebro humano. O peso pode influenciar inadvertidamente o algoritmo de aprendizado de máquina desde o início por meio de entrada de dados, por meio de treinamento supervisionado e por intervenção por meio de ajustes manuais. A ausência ou inclusão de indicadores e os vieses cognitivos inerentes ao programador de computador humano podem causar viés de aprendizado de máquina [3].

• Este sentimento é mais que a felicidade
• Seu cérebro está no piloto automático?
• Armar professores: boa ou má ideia?
• Big Data precisa de uma grande história
• Pode estar fora de forma acelerar a deterioração do cérebro?

A revolução da inteligência artificial (AIR) está bem encaminhada [4]. A inteligência artificial é atualmente uma ferramenta usada para ajudar seres humanos e está sendo implantada como soluções pontuais em uma ampla variedade de funções, como assistentes pessoais digitais, filtragem de e-mail, pesquisa, prevenção de fraudes, engenharia, modelos de marketing, distribuição digital, reconhecimento de voz e reconhecimento facial. , classificação de conteúdo, linguagem natural, produção de vídeo, geração de notícias, análise de jogo e jogo, atendimento ao cliente, relatórios financeiros, otimização de marketing, gerenciamento de custos de energia, preços, inventário, aplicações corporativas e mais funções [5]. Alguns dos maiores pensadores do século XXI alertaram para os perigos da IA ​​não controlados. A crescente penetração da IA ​​exige a minimização do viés cognitivo humano na máquina. O futuro da humanidade pode muito bem depender disso.

Referências

1. “Prioridades de Pesquisa para Inteligência Artificial Robusta e Benéfica: uma Carta Aberta”. Instituto Futuro da Vida. Recuperado em 2 de fevereiro de 2018.

2. Rosso, Cami. “O enigma da aprendizagem de máquina e vieses cognitivos.” Médio . 14 de julho de 2015.

3. Ibid.

4. Rosso, Cami. “Por que a Inteligência Artificial é a próxima revolução – a IA vai mudar quase todos os aspectos de nossas vidas diárias.” Médio . 16 de março de 2016.

5. Rosso, Cami. “Por que a AI está tendendo agora.” Médio . 21 de fevereiro de 2017.