Uma inovadora ferramenta chamada Nightshade está dando aos artistas o poder de adicionar alterações invisíveis aos pixels de suas obras de arte antes de compartilhá-las online. Essas mudanças, se incorporadas a conjuntos de treinamento de inteligência artificial (IA), têm o potencial de desestabilizar e tornar imprevisíveis os modelos gerados.

A Nightshade busca combater o uso não autorizado de trabalhos artísticos por empresas de IA, que frequentemente utilizam essas criações para treinar seus modelos.

Ben Zhao, professor da Universidade de Chicago e líder da equipe por trás da Nightshade, explica que a ferramenta pode “envenenar” os dados de treinamento, prejudicando futuras iterações de modelos de IA de geração de imagens. Empresas como OpenAI, Meta, Google e Stability AI enfrentam ações judiciais de artistas que alegam violação de direitos autorais e uso não autorizado de suas obras.

A Nightshade, ainda em fase de desenvolvimento, é uma resposta a essas preocupações, fornecendo uma maneira eficaz de proteger os direitos autorais dos artistas. A equipe por trás da ferramenta também criou o Glaze, uma ferramenta semelhante que permite aos artistas “mascarar” seu estilo pessoal, evitando a reprodução não autorizada por empresas de IA.

O objetivo é equilibrar o poder entre artistas e empresas de IA, criando uma barreira contra a violação de direitos autorais e propriedade intelectual. A Nightshade será disponibilizada como código aberto, permitindo que outros a modifiquem e criem suas próprias versões. Quanto mais amplamente adotada, mais impacto terá na proteção dos artistas.

Essa iniciativa surge em meio a ações legais contra gigantes da IA e visa capacitar os criadores a protegerem suas obras online. A Nightshade explora uma vulnerabilidade em modelos generativos de IA, inserindo amostras “envenenadas” nos conjuntos de dados, resultando em resultados imprevisíveis. Este desenvolvimento pode representar um passo significativo na defesa dos direitos dos artistas no universo digital.

Com informações de MIT Technology Review

Foto Destaque: IA LuzIA

Nayron Divino Toledo Malheiros

Mestre em Direito Constitucional Econômico, Professor de Direito, autor do livro “Inteligência Artificial e Direito: Veículos Autônomos: responsabilidade civil, impactos econômicos e desafios regulatórios no Brasil”

---

Como citar esse texto:
MALHEIROS, Nayron D. T.  Nightshade: A ferramenta que bagunça as IA para proteger direitos autorais de imagens. Consumers, 2023. Disponível em: https://iaconsumers.com/2023/12/11/nightshade-a-ferramenta-que-envenena-as-ias-para-proteger-direitos-autorais-de-imagens/