De opkomst van AI-gegenereerde kunst heeft veel discussie opgeleverd over het gebruik van bestaand kunstwerk om deze modellen te trainen. Vaak wordt dit kunstwerk zonder toestemming gescraped van het internet. Het Glaze project van de Universiteit van Chicago ontwikkelt tools om kunstenaars hiertegen te beschermen. De nieuwste tool die ze hebben gelanceerd is Nightshade.
Het Glaze project
Het Glaze project is in 2020 gestart door professor Ben Zhao en zijn team. Het doel is om kunstenaars meer controle te geven over hoe hun kunstwerk gebruikt wordt voor machine learning modellen. Ze ontwikkelen hiervoor verschillende hulpmiddelen.
Een van de eerste tools die ze introduceerden is Glaze zelf. Deze tool kan onzichtbaar een digitale vingerafdruk toevoegen aan kunstwerk. Als een bedrijf dit kunstwerk dan gebruikt om een AI model te trainen, kan de kunstenaar aantonen dat zijn/haar werk is gebruikt.
De introductie van Nightshade
De nieuwste tool die het Glaze project heeft gelanceerd is Nightshade. In tegenstelling tot Glaze is Nightshade bedoeld als een offensieve tool in plaats van defensief.
Nightshade werkt door onzichtbare veranderingen aan te brengen in de pixels van een digitaal kunstwerk. Deze subtiele veranderingen zijn niet zichtbaar voor het menselijk oog, maar zorgen er wel voor dat AI modellen die op dit “vergiftigde” kunstwerk trainen chaotische en onvoorspelbare resultaten gaan genereren.
Bijvoorbeeld, een landschap kan veranderen in een stadsgezicht. Of een portret van een persoon kan ineens een auto genereren. Door op deze manier de trainingsdata te “vergiftigen”, kan Nightshade ervoor zorgen dat toekomstige AI kunstgeneratoren onbruikbaar worden.
Doel van Nightshade
Het doel van Nightshade is niet om bestaande AI modellen te breken, maar om een signaal af te geven naar bedrijven die zonder toestemming kunstwerk scrapen. Door genoeg kunstwerk te “vergiftigen”, wordt het onaantrekkelijk voor deze bedrijven om kunst zonder toestemming te blijven gebruiken.
In plaats daarvan zullen ze afspraken moeten gaan maken met kunstenaars over het gebruik van hun werk. Op deze manier kan Nightshade helpen om de rechten van kunstenaars te beschermen.
Of dit uiteindelijk gaat lukken is nog onzeker. Maar het Glaze project zet met Nightshade in ieder geval een interessante nieuwe stap in de discussie rondom AI en kunst.
