A Inteligência Artificial (IA) generativa tem o potencial de desbloquear a criatividade no YouTube e transformar a experiência para os espectadores e criadores na nossa plataforma. Também muito importante é o facto destas oportunidades terem de ser equilibradas com a nossa responsabilidade de proteger a comunidade do YouTube. Todo o conteúdo carregado no YouTube está sujeito às nossas Regras da Comunidade - independentemente de como é gerado -, mas também sabemos que a IA vai trazer novos riscos e exigir novas abordagens.
Estamos ainda nos estágios iniciais do nosso trabalho e esperamos continuar a evoluir a nossa abordagem à medida que aprendemos mais. Eis o que o YouTube irá disponibilizar nos próximos meses e ao longo de 2024.
Obrigações de informação e novas etiquetas de conteúdo
Acreditamos que é do interesse de todos garantir que o conteúdo publicado no YouTube promova um ecossistema de informação saudável. Temos políticas de longa data que proíbem conteúdo tecnicamente manipulado que engane os espectadores e que possa representar um sério risco de danos graves. Contudo, a IA poderá trazer novas formas de contar histórias de gerar conteúdo que possa ter o potencial de induzir em erro os espectadores, especialmente se eles não souberem que o vídeo foi manipulado ou criado sinteticamente.
Nos próximos meses e para resolver esta preocupação iremos apresentar atualizações destinadas a informar os espectadores quando o conteúdo que estão a assistir é sintético. Especificamente, iremos exigir que os criadores informem quando criaram conteúdo manipulado ou sintético que é realista, inclusive através de ferramentas de IA. Quando os criadores carregarem conteúdo, teremos novas opções para selecionarem de forma a indicar que contém material realista, manipulado ou sintético. Por exemplo, pode ser um conteúdo que mostre alguém a dizer ou a fazer algo que na verdade não fez, ou um vídeo gerado por IA que retrata de forma realista um evento que nunca aconteceu.
Isto é especialmente importante nos casos em que o conteúdo aborda temas sensíveis, como eleições, conflitos em curso e crises de saúde pública, ou entidades oficiais. Os criadores que optem, de forma consistente, por não divulgar estas informações poderão estar sujeitos a sanções do YouTube, incluindo a remoção de conteúdo, a suspensão do Programa de Parcerias do YouTube ou outras penalizações. Vamos trabalhar com os criadores antes do lançamento para garantir que entendem estes novos requisitos.
Iremos informar os espectadores de que o conteúdo pode ser manipulado ou sintético através de duas formas. Uma nova etiqueta será adicionada ao painel de descrição indicando que parte do conteúdo foi alterado ou gerado digitalmente. E para determinados tipos de conteúdo sobre temas delicados, vamos aplicar um rótulo mais proeminente no video player.
Existem algumas áreas onde uma etiqueta por si só poderá não ser suficiente para mitigar o risco de danos — e alguns meios de comunicação sintéticos, independentemente de estarem etiquetados, serão removidos da nossa plataforma se violarem as nossas Regras da Comunidade. Por exemplo, um vídeo criado sinteticamente que mostre violência realista poderá ainda ser removido se o seu objetivo for chocar ou enojar os espectadores.
Além disso, à medida que estas novas atualizações forem implementadas, o conteúdo criado pelos produtos e funcionalidades do YouTube baseados na IA generativa será claramente identificado como gerado através de IA.
Novas opções para criadores, utilizadores e artistas
Temos ouvido o feedback contínuo da nossa comunidade, incluindo criadores, utilizadores e artistas, sobre as formas como as tecnologias emergentes poderão ter impacto neles. Isto é especialmente verdadeiro nos casos em que a cara ou a voz de alguém pode ser gerada digitalmente para as exibir sem a sua permissão ou para deturpar os seus pontos de vista.
Por isso, nos próximos meses, iremos tornar possível solicitar a remoção de conteúdo gerado através da IA ou outro conteúdo sintético ou manipulado que simule um indivíduo identificável, incluindo o seu rosto ou voz, através do nosso processo de Procedimento de reclamação por violação de privacidade. Nem todo o conteúdo será removido do YouTube e iremos considerar vários fatores quando avaliarmos estas solicitações. Isto pode incluir se o conteúdo é uma paródia ou uma sátira, se a pessoa que faz o pedido pode ser identificada de forma inequívoca ou se ela se refere a uma pessoa com funções públicas ou uma pessoa muito conhecida, casos estes, em que pode haver uma exigência mais elevada.
Estamos também a disponibilizar a possibilidade dos nossos parceiros musicais solicitarem a remoção de conteúdo musical gerado através da IA que imite o timbre único de um artista ou o rap. Para determinar se aceitamos uma solicitação de remoção, iremos considerar fatores como se o conteúdo é objeto de reportagem noticiosa, se é uma crítica ou se inclui a análises de vozes sintéticas. Estes controlos estarão disponíveis para produtoras de música ou distribuidores que representam os artistas participantes nas primeiras experiências musicais de IA no YouTube. Iremos continuar a expandir o acesso a produtoras musicais e distribuidores adicionais ao longo dos próximos meses.
Implantando a tecnologia de IA para potencializar a moderação de conteúdo
O YouTube utiliza sempre uma combinação de pessoas e tecnologias de aprendizagem de máquina para aplicar as nossas Regras da Comunidade, com mais de 20 mil revisores na Google, a operar por todo o mundo. Os classificadores de IA ajudam a detectar conteúdo potencialmente violador em escala, e os revisores trabalham para confirmar se o conteúdo ultrapassou realmente os limites da política. A IA está a aumentar, de forma contínua, a velocidade e a precisão dos nossos sistemas de moderação de conteúdos.
Uma área onde o impacto da IA tem sido claramente observado é na identificação de novas formas de abuso. Quando surgem novas ameaças, os nossos sistemas têm relativamente pouco contexto para compreendê-las e identificá-las em escala. Mas a IA generativa ajuda-nos a expandir rapidamente o conjunto de informações nas quais os nossos classificadores de IA são treinados, o que significa que somos capazes de identificar e capturar este conteúdo com maior rapidez. Uma maior velocidade e precisão dos nossos sistemas também nos permite reduzir a quantidade de conteúdo prejudicial a que os revisores humanos são expostos.
Incorporar a responsabilidade nas nossas ferramentas e funcionalidades de IA
À medida que continuamos a desenvolver novas ferramentas de IA para os criadores, a nossa abordagem permanece consistente com a forma como enfrentámos alguns dos nossos maiores desafios de responsabilidade: acreditamos em reservar o tempo necessário para fazermos as coisas bem ao invés de nos esforçarmos para sermos os primeiros.
Estamos a pensar cuidadosamente em como podemos aproveitar os anos de investimento nas equipas e na tecnologia capazes de moderar conteúdo à nossa escala. Isto inclui um trabalho significativo e contínuo para desenvolver proteções que irão impedir que as nossas ferramentas de IA possam gerar o tipo de conteúdo que não pertence ao YouTube.
Também reconhecemos que os maus intervenientes irão tentar inevitavelmente contornar estas barreiras de proteção. Iremos incorporar o feedback dos utilizadores e a aprendizagem para melhorar continuamente as nossas proteções. E dentro da nossa companhia, as equipas dedicadas, incluindo o nosso departamento de inteligência, estão especificamente focadas nos testes adversariais e na detecção de ameaças para garantir que os nossos sistemas respondem a novos desafios à medida que os mesmos vão surgindo.
A transformação da IA está à nossa porta
Ainda estamos no início da jornada para desbloquear novas formas de inovação e de criatividade com a IA generativa no YouTube. Estamos super entusiasmados com o potencial desta tecnologia e sabemos que o que vem a seguir vai ser repercutido nas indústrias criativas dos próximos anos. Estamos a dedicar tempo para equilibrar estes benefícios com a garantia da segurança contínua da nossa comunidade neste momento crucial - e iremos trabalhar, lado a lado, com os criadores, artistas e os nossos parceiros das indústrias criativas para construir um futuro brilhante para todos nós.
Publicado por Jennifer Flannery O'Connor, VP Product Management; Emily Moxley, VP Product Management
