Con 250.00 download nei primi cinque giorni dal rilascio, si puรฒ sicuramente affermare che Nightshade, il tool che “avvelena” le IA ingannando i relativi algoritmi, รจ un vero successo.
“Mi aspettavo che sarebbe stato accolto con molto entusiasmo” ha rivelato a VentureBeat Ben Zhao, professore di informatica dell’Universitร di Chicago e leader del progetto. “Tuttavia, ho sottovalutato la cosa… la risposta รจ semplicemente al di lร di tutto ciรฒ che immaginavamo”.
Sviluppato dai ricercatori di informatica dell’ateneo canadese, questo strumento si pone l’obiettivo di tutelare le proprietร intellettuali degli artisti, in particolar modo illustratori, grafici fotografi e tutti coloro che fanno della creativitร , digitale e non, una professione o comunque un’esternazione delle proprie passioni.
Liberamente scaricabile a questo indirizzo, Nightshade opera modificando in maniera invisibile, a livello di pixel, le immagini presenti online, disturbando i modelli di intelligenza artificiale e gli algoritmi che vengono utilizzati per addestrare le IA, impedendo cosรฌ di servirsi o copiare correttamente opere coperte da copyright senza il consenso dell’autore.
Le IA avvelenate da Nightshade vanno in confusione e vedono gatti invece di cani
Questo processo, noto come “avvelenamento”, inganna le Intelligenze Artificiali come Dall-E, Midjourney e simili rendendo inutili i risultati estrapolati dalle immagini: i cani diventano gatti, le auto possono essere confuse con delle mucche e la foto di un lago di montagna potrebbe essere vista come una fetta di pizza da parte delle AI.
Secondo il professor Zhao, Nightshade puรฒ ristabilire un po’ di equilibrio tra i grandi colossi tecnologici che stanno facendo un uso sempre piรน importante dell’AI come OpenAI, Meta, Google e compagnia bella e tutti coloro che vorrebbero difendere la propria creativitร e le proprie opere originali.
Led by UChicago Prof. Ben Zhao, Nightshade is a new tool designed to “poison” image-generating AI models, to deter them from plagiarizing the work of artists.
Your Sunday Read: https://t.co/ykYdju7vAS
โ The University of Chicago (@UChicago) November 12, 2023
Open Source: il boost per Nightshade
Gli sviluppatori di Nightshade sono ben consapevoli che la risposta da parte delle AI non tarderร ad arrivare, con lo strumento “avvelenatore” che comunque darร filo da torcere ai modelli di apprendimento delle AI, aumentando i costi di gestione delle stesse e, in alcuni casi, scoraggiandone l’uso.
Come sempre, per far fronte allo strapotere oligopolistico delle grandi aziende IT, la risposta sembra essere sempre la stessa: open source. Il team dell’universitร di Chicago sta infatti realizzando una versione totalmente libera da diritti di Nightshade, consentendo a tutti di smanettare con il codice sorgente del tool e creare versioni diverse e personalizzate dello strumento, in pratica delle varianti dello stesso “veleno”.
“Piรน persone lo usano e ne fanno le proprie versioni, piรน potente diventerร lo strumento” ha detto Zhao. “La base di dati per i grandi modelli di intelligenza artificiale possono consistere in miliardi di immagini, quindi piรน immagini saranno trattate con Nightshade e strumenti simili, piรน alto sarร il rischio di incappareย immagini avvelenate da parte delle Intelligenze Artificiali”.
