A Anthropic, desenvolvedora da rede neural Claude, está a apertar significativamente as regras de utilização da sua plataforma, que entram em vigor a partir de 12 de novembro. Agora é expressamente proibido usar Claude para “semear” fontes de motores de busca e sistemas de IA com conteúdo enganoso. Isso diz respeito a materiais que distorcem a sua origem, autoria ou independência. Imagine uma rede de sites que se fazem passar por independentes, mas promovem as mesmas afirmações – é exatamente isso que a Anthropic vai combater, procurando garantir a pureza do espaço de informação.
Anthropic aperta as regras: combate a fontes falsas para respostas de IA
Nova secção “Proibição de campanhas enganosas”
A principal mudança na política da Anthropic é a introdução de uma nova secção intitulada “Não participe em campanhas enganosas ou atividades artificiais”. Esta secção estabelece claramente a inadmissibilidade de manipular as fontes das quais os motores de busca ou sistemas de IA obtêm as suas respostas. Por exemplo, a criação de redes de sites que se fazem passar por fontes independentes, mas que confirmam as mesmas declarações, é agora estritamente proibida. Isso é crucial para manter a confiança na informação gerada por redes neurais.
- Proibição de usar personas falsas, publicações e avaliações.
- Disseminação de conteúdo através de “publicações, websites ou contas falsas ou supostamente independentes” com o objetivo de ocultar a fonte comum.
- Proibição de criar ferramentas para campanhas enganosas e vender tais serviços.
Anteriormente, regras semelhantes estavam espalhadas por diferentes secções da política, relativas a eleições, fraude, privacidade e desinformação. Agora, tudo está reunido num só lugar, o que simplifica significativamente a compreensão e aplicação das novas normas.
Lições de setembro: casos reais de engano
A Anthropic não se limita a introduzir novas regras, mas também as apoia com exemplos reais do seu relatório de análise de ameaças de setembro. A empresa identificou cerca de 70 websites que se mascaravam como publicações de notícias locais independentes. Todos eles estavam ligados a uma agência de publicidade de França.
“A operação consistia em usar Claude para criar artigos num formato unificado, cada um contendo três a quatro links internos, para publicação automática.”
Estes artigos, e havia pelo menos 8913 deles em aproximadamente 20 idiomas, foram especificamente concebidos para aumentar a autoridade dos sites nos motores de busca. Embora a maioria deles não tenha obtido uma resposta significativa do público, a Anthropic reagiu prontamente, bloqueando a conta Claude e a organização associada a esta atividade.
Publicação automática: não é mais “alto risco”
Uma mudança interessante afetou a publicação automática de conteúdo. Anteriormente, a “geração e publicação automática de conteúdo para consumo externo” era considerada um cenário de alto risco. Agora, este item foi excluído da lista. Isso não significa permissividade total, mas indica que a Anthropic vê potencial na geração em massa de vídeo por redes neurais e outros formatos de conteúdo, desde que não violem outras regras, especialmente no que diz respeito à desinformação.
A lista de áreas de alto risco que exigem verificação e divulgação agora inclui 11 itens, como aconselhamento jurídico, médico e financeiro, bem como decisões sobre crédito, moradia e emprego. Os requisitos para verificar as recomendações nessas áreas permanecem inalterados: um especialista qualificado deve revisar as conclusões, e os usuários devem ser notificados de que o conteúdo foi criado com a participação de IA. Isso abre novos horizontes para vídeos de IA para publicidade e UGC de IA para projetos de cripto, onde a produção neural por assinatura pode se tornar o padrão.
Google e Anthropic: uma frente comum contra o spam
O Google também está ativamente combatendo a manipulação de respostas de IA generativa na pesquisa, chamando isso de spam. A atualização da documentação de 15 de maio indicou claramente que essas políticas são aplicáveis às respostas de IA generativa. Se o Google aplica suas regras a sites, o que pode levar à diminuição de sua classificação ou remoção dos resultados de pesquisa, a Anthropic age no nível dos usuários do Claude, restringindo ou revogando o acesso. Isso demonstra uma abordagem unificada dos gigantes da tecnologia para garantir a pureza do espaço da informação.
Perguntas Frequentes
O que mudou na política de uso do Claude?
A principal mudança é a proibição do uso do Claude para criar e distribuir conteúdo enganoso que manipule fontes de informação para mecanismos de busca e IA. Uma nova seção sobre “Proibição de campanhas enganosas ou atividades artificiais” foi adicionada.
Por que a Anthropic introduziu essas mudanças?
As mudanças visam combater a desinformação e as manipulações que podem afetar as respostas dos mecanismos de busca e da IA. Esta é uma resposta a casos identificados em que o Claude foi usado para criar redes de sites de notícias falsas.
Como isso afetará a criação de conteúdo de IA?
Isso não proíbe a criação de conteúdo de IA como tal, mas estabelece limites rigorosos para seu uso. Por exemplo, a geração em massa de vídeos por redes neurais ou a criação de avatares de IA com legendas ainda são possíveis, desde que o conteúdo não engane sobre sua origem ou autoria. É importante ser transparente e ético.
O que são áreas de uso de “alto risco” do Claude?
As áreas de alto risco incluem aconselhamento jurídico, médico, financeiro, bem como decisões que afetam crédito, moradia e emprego. Nesses casos, é necessária uma verificação obrigatória por um especialista qualificado e a notificação ao usuário de que o conteúdo foi criado com a ajuda de IA.
A publicação automática de conteúdo agora é proibida?
Não, a publicação automática de conteúdo não é mais considerada de “alto risco”. Isso abre oportunidades para um pipeline de IA de 500 vídeos por dia ou uma fábrica de vídeos de IA para e-commerce, desde que todas as outras regras sejam cumpridas, especialmente as relacionadas à desinformação e manipulação.
Conclusão
A política atualizada da Anthropic é um passo importante para um uso mais ético e responsável da IA generativa. Isso não é apenas uma proteção dos usuários contra a desinformação, mas também a criação de um ambiente mais transparente para o desenvolvimento de tecnologias. Para empresas que usam vídeos de IA para publicidade ou redes neurais para publicidade UGC, isso significa a necessidade de serem ainda mais atentas à origem e apresentação do conteúdo. Vemos que a eficácia da IA versus UGC real continua a crescer, mas com ela cresce também a responsabilidade. É hora de se adaptar e construir um futuro onde a tecnologia sirva para o bem, e não para enganar. Se você está procurando onde encomendar UGC de IA para cripto ou outros projetos, certifique-se de que seu parceiro adere a altos padrões de ética e transparência.