Não é de hoje que o Facebook utiliza Inteligência Artificial para reconhecer imagens e marcar pessoas, mas, pela primeira vez, o algoritmo superou a eficiência de moderadores humanos.
Segundo Joaquin Candela, Diretor de Engenharia de Aprendizado de Máquina Aplicado da rede social, a Inteligência Artificial já bloqueou mais imagens ofensivas do que a equipe de moderação humana.
Sem a interferência humana, o sistema é capaz de reconhecer conteúdo extremo ou obsceno em imagens e colocar o material em uma espécie de quarentena antes mesmo que possa ser analisado por um supervisor ou mesmo reportado por um usuário. Com essa linha de defesa automatizada, o Facebook acredita que pode ajudar a construir uma rede social melhor para as pessoas ao mesmo tempo que evita a conhecida fadiga mental que costuma afetar profissionais que lidam diariamente com esse tipo de conteúdo.
Atualmente, no Facebook, cada imagem é analisada pelo algoritmo em tempo real, antes de ser publicada. Apenas casos onde existe uma ambiguidade são submetidos ao trabalho dos moderadores. De acordo com Candela, essa é uma das funções executadas pelos mais de 40 petaflops de poder de processamento disponíveis na divisão de aprendizado de máquina da empresa e a meta é tornar o filtro de conteúdo totalmente autônomo e gerenciado pela Inteligência Artificial.
