Desafios da Moderação com AI - Semana em AI
Houve um tempo em que se falava que as máquinas eram imparciais. E que um robô poderia ser tão frio e calculista quanto uma fórmula de matemática. Mas, e quando ensinamos o robô a achar algo?
Nesta semana que passou estava lendo a Neural, uma newsletter da The Next Web, um pensamento provocativo foi levantado: trabalhos de moderação são um dos mais difíceis que existem.
Nos momentos mais difíceis da crise do Facebook, eles defenderam a tese de que era humanamente impossível acompanhar todos os conteúdos e que se apoiariam em sistemas para poder ajudar na moderação. Porém, o que vem a seguir é um desafio descomunal.
É uma bagunça da humanidade que está constantemente se modificando. É um alvo em movimento.
— Neural
Dentre as diversas estratégias atuais, temos: palavras-chave, intenção e sentimento.
No modelo por palavras-chave, há uma limitação muito grande sobre cobertura, acabando que o conteúdo fica limitado independente de quem ou sobre o quê se posta. Ocultar posts com: porra, poha, porr4, p0rra etc, é um trabalho até ingênuo.
No modelo por intenção há a presunção de que seu modelo de AI é capaz de entender a intenção por detrás da pessoas por detrás do conteúdo. Embora alguns artigos indiquem que seja possível, até por texto, reconhecer ironia e alguns sentimentos sofisticados, é difícil defender um algoritmo que opina sobre o sentimento de outra pessoa.
Na moda atual, moderação por análise de sentimento, temos o problema de viés, pois na práticas os responsáveis pelo treinamento do modelo definem o que é bom e ruim, engraçado ou de mau gosto. E complica a responsabilidade por formar grupos de treinamentos, mesmo que diversos, mas com opiniões consistentes.
Há ainda a definição sobre o que é ou não ilegal, pois coisas não ilegais podem ou não ser consideradas perigosas se exibidas em determinados públicos. Resumo da ópera, moderação de conteúdo é um verdadeiro caos.
Inteligência artificial pode ser a solução para muitos problemas, no entanto precisamos entender que nossa intolerância ao erro, principalmente no universo atual em que vivemos, irá incentivar o uso de freio para termos cautela. E, nesse caso em específico, as vezes considerarmos que colocar humanos para realizar as moderações, ainda possa ser o modelo mais escalável.
Acontecendo no Mundo
Alunos, Dêem Boas Vindas ao Assistente de Classe Mr. AI
Algumas escolas no mundo fizeram uso durante a pandemia de ferramentas de AI para complementar o método de ensino que precisou sofrer mudanças. Os resultado? Promissores. Enquanto alguns alunos demonstraram mais engajamento, outros demonstraram que precisam aprender mais como se comunicar com essas interfaces inteligentes.
E Esse Black Hawk Voando Sozinho?
Aos amigos e fãs desses brinquedinhos caros das forças armadas, fica aqui o novo agito: helicópteros poderosos voando sozinhos. E tem vídeo pra provar. O fato da DARPA estar envolvida só deixa as coisas mais interessantes, pois no passado foram verbas do governo no investimento militar que também deram alguns saltos tecnológicos para o mundo.
Animês, Otakus e AIs: O Quê Eles Têm Em Comum?
É aquela coisa, tem gente que é prática na vida, e tem gente que tem seus hobbies e prazeres. Nesse último caso, a turma que é fã de animes e mangás não está muito otimista com os primeiros resultados do uso de AIs para a geração deste tipo de conteúdo. Preciosismo? Hmmm provavelmente.
Empresas
Robô do Google Que Se Programa
Esse tem sido o último experimento do pessoal do Google: um robô que consegue a partir de linguagem natural alterar seus comandos e programações para executar novas atividades. Será se vão também conseguir alterar sua programação básica de: não machucar humanos?
Estagiário Novo do Time Chegou, e É uma AI
OpenAI e Microsoft, mais do que amigos, friends. Nessa demonstração sensacional, fica muito mais óbvio que todo mundo que está falando que AIs programam mal e que nunca vão conseguir resolver problemas complexos deveria quietar mais o ego.
Interessante, Mas Não Relacionado
Avanços no Tratamento Genético de Câncer
Trouxe no passado recente que um tratamento de câncer feito com CRISPR - uma técnica de manipulação genética tão simples que pode ser feita em casa - estava rolando. Pois bem, os testes foram um sucesso para tratamentos personalizados e agora é entender as implicações em escala, já que esse é um tratamento complicado, elaborado a partir de cada paciente.
