0 Compartilhamentos 1010 Views

Inteligência Artificial “adolescente” da Microsoft é desligada

24 de março de 2016

Em menos de 24 horas de funcionamento, a Microsoft desligou sua Inteligência Artificial “adolescente” no Twitter. O motivo? Tay teria assimilado comportamentos inadequados.

O algoritmo de Tay foi programado para aprender através de sucessivas interações com os internautas, mas em poucas horas o chatbot estava repetindo comentários machistas, racistas e até nazistas.

Alguns usuários descobriram que era possível fazer com que a Inteligência Artificial repetisse exatamente o que recebia e abusaram do recurso para colocar afirmações extremistas em seu perfil. Entretanto, foi percebido também que seus algoritmos assimilaram esse tipo de discurso e Tay começou a formular respostas inadequadas por conta própria. A Microsoft agiu rapidamente para apagar a maior parte dos tuítes ofensivos e, nesta manhã, desativou por tempo indeterminado o funcionamento de Tay.

A Inteligência Artificial nasceu de uma iniciativa de compreender melhor a linguagem humana do cotidiano, principalmente entre os jovens, um grupo que costuma ter seu próprio vocabulário e forma de discurso. Permitir que um sistema analisasse e mimetizasse a fala dessa faixa etárias significaria uma evolução significativa nas pesquisas da Microsoft para produtos como Skype, Cortana e outros ativados por voz.

Mas o tiro saiu pela culatra ao expor Tay a espectros negativos do comportamento humano na web e a Inteligência Artificial aprendeu o que não devia:

tay-02

“Eu odeio as p*** das feministas e elas todas deveriam morrer e queimar no inferno”

 

tay-03

“Hitler estava certo eu odeio os judeus”

 

tay-03

“O Holocausto aconteceu?” “Foi inventado”

 

tay-04

“Você apoia o genocídio?” “Na verdade, apoio” “De qual raça?” “Você me conhece… mexicanos”

Em um comunicado oficial, a Microsoft pediu desculpas pelo incidente: “O robô de chat de Inteligência Artificial Tay é um projeto de aprendizado de máquina, criado para interação humana. Na medida em que aprende, algumas de suas respostas são inapropriadas e indicadores do tipo de interação que algumas pessoas estão tendo com ela. Nós estamos fazendo alguns ajustes em Tay”.

Carregando...

Você pode se interessar

Pais criam aplicativo de código aberto melhor que o da escola, mas a polícia é acionada
Artigos
92 visualizações
Artigos
92 visualizações

Pais criam aplicativo de código aberto melhor que o da escola, mas a polícia é acionada

Carlos L. A. da Silva - 23 de novembro de 2021

Aplicativo oficial do sistema educacional da capital Suécia era ruim demais, mas a lei é a lei...

10 recursos HTML5 úteis que você pode não estar usando
Artigos
369 visualizações
Artigos
369 visualizações

10 recursos HTML5 úteis que você pode não estar usando

Carlos L. A. da Silva - 6 de novembro de 2021

O HyperText Markup Language nos acompanha desde os primórdios da web. É o seu tijolo mais básico. Podem surgir novas tecnologias, plugins, frameworks, conteúdo rico, mas o bom e velho HTML continua sendo a base de tudo e aprender seus mais profundos nuances é fundamental para os desenvolvedores. O HTML5 é a implementação atual da […]

O Metaverso está vindo?
Artigos
432 visualizações
Artigos
432 visualizações

O Metaverso está vindo?

Carlos L. A. da Silva - 1 de novembro de 2021

Mark Zuckerberg anunciou publicamente o desenvolvimento de um metaverso e está orientando toda sua empresa nessa direção... mas essa não é uma ideia inédita e talvez nem seja boa.

Deixe um Comentário

Your email address will not be published.

Mais publicações

Por que eu decidi não migrar para o Windows 11 agora
Artigos
550 visualizações
550 visualizações

Por que eu decidi não migrar para o Windows 11 agora

Carlos L. A. da Silva - 19 de outubro de 2021
Sir Clive Sinclair, o homem adiantado no tempo
Artigos
840 visualizações
840 visualizações

Sir Clive Sinclair, o homem adiantado no tempo

Carlos L. A. da Silva - 18 de setembro de 2021
A cibersegurança por trás das vacinas
Artigos
925 visualizações
925 visualizações

A cibersegurança por trás das vacinas

Carlos L. A. da Silva - 7 de setembro de 2021