Instrumentul a fost creat de echipa DeepMind ca un pas către AI-ul responsabil.
Imaginile generate de instrumentele de inteligență artificială devin tot mai dificil de distins față de cele create de oameni. Imaginile generate de AI pot răspândi dezinformări în proporții masive, ducând la utilizarea nepotrivită a AI-ului. În acest scop, Google a dezvăluit un nou instrument numit SynthID care poate distinge imagini generate de AI de cele create de oameni.
Instrumentul, creat de echipa DeepMind, adaugă o filigrană digitală imperceptibilă imaginilor generate de AI - asemenea unei semnături. Același instrument poate detecta ulterior această filigrană pentru a indica care imagini au fost create de AI, chiar și după modificări, cum ar fi adăugarea de filtre, compresia, schimbarea culorilor și altele.
SynthID combină două modele de învățare profundă într-un singur instrument. Unul adaugă vizual filigrana la conținutul original într-un mod imperceptibil ochiului liber, iar celălalt identifică imaginile cu filigran.
În prezent, SynthID nu poate detecta toate imaginile generate de AI, deoarece este limitat la cele create cu instrumentul text-to-image Imagen de la Google. Cu toate acestea, acesta este un semn al unui viitor promițător pentru AI-ul responsabil, în special dacă alte companii adoptă SynthID în instrumentele lor generative de AI.
Instrumentul va fi implementat treptat pentru clienții Vertex AI care utilizează Imagen și este disponibil doar pe această platformă. Cu toate acestea, Google DeepMind speră să-l facă disponibil în alte produse Google și pentru terțe părți în curând.
Sursa: "zdnet.com"