SynthID yra „Google DeepMind“ sukurta skaitmeninio vandens ženklo technologija, skirta atpažinti dirbtinio intelekto sukurtą turinį.
Ji priklauso turinio autentiškumo ir DI žymėjimo technologijų grupei: žymuo įterpiamas į vaizdą, tekstą, garsą ar vaizdo įrašą taip, kad žmogui būtų nepastebimas, o specialus detektorius galėtų įvertinti, ar turinys greičiausiai buvo sugeneruotas DI sistema.
SynthID identifikuoja DI turinį ne pagal išvaizdą, o pagal paslėptą signalą
Svarbiausias SynthID principas yra vandens ženklinimas generavimo metu. Tai reiškia, kad žymuo pridedamas tada, kai DI modelis kuria turinį, o ne vėliau, kai failas jau platinamas internete. Toks metodas skiriasi nuo paprasto metaduomenų įrašo, kurį galima ištrinti kopijuojant ar konvertuojant failą.
Vaizduose ir kituose medijos formatuose SynthID įterpia signalą į pačią turinio struktūrą. Žmogaus akis ar ausis jo paprastai nepastebi. Detektorius ieško statistinių požymių, kurie atitinka naudotą žymėjimo schemą.
Tekste veikimo principas kitoks. Kalbos modelis generuodamas sakinius pasirenka žodžius iš tikėtinų variantų. SynthID gali subtiliai paveikti šiuos pasirinkimus taip, kad galutiniame tekste atsirastų atpažįstamas statistinis raštas, nors skaitytojui tekstas atrodo įprastas.
Išvaizda: kodėl SynthID ženklo paprastai nematyti
SynthID nėra matomas logotipas, antspaudas ar užrašas kampe. Jo tikslas – būti nepastebimam vartotojui ir kartu aptinkamam technine priemone. Tai svarbu, nes matomus ženklus lengva nukirpti, uždengti ar pašalinti redaguojant failą.
Skaitmeninis vandens ženklas dažniausiai remiasi mažais signalo pakeitimais. Pavyzdžiui, paveiksle tai gali būti duomenų pasiskirstymo pokytis pikselių lygmeniu, o garse – tokios savybės, kurios neturėtų keisti klausymo patirties. Detektorius vertina ne vieną tašką, o platesnį statistinį modelį.
| Turinio tipas | Kaip gali būti įterpiamas žymuo | Ką tikrina detektorius | Pagrindinis ribojimas |
|---|---|---|---|
| Vaizdas | Nematomas signalas vaizdo duomenyse | Pikselių ir jų pasiskirstymo požymius | Stiprus redagavimas gali silpninti aptikimą |
| Tekstas | Statistinis žodžių parinkimo raštas | Tikėtinų žodžių sekų pasiskirstymą | Perrašymas ar vertimas gali pašalinti signalą |
| Garsas | Signalas garso savybėse | Akustinius požymius | Suspaudimas ir triukšmas gali trukdyti |
| Vaizdo įrašas | Žymuo kadruose ar vaizdo signale | Kadrų sekos požymius | Perkodavimas ir karpymas mažina patikimumą |
Naudojimas: kur SynthID siejamas su DI sukurto turinio tikrinimu
SynthID siejamas su „Google“ DI ekosistema, įskaitant „Google DeepMind“ modelius ir generatyvinio DI įrankius. Technologija buvo pristatyta kaip priemonė žymėti DI sukurtus vaizdus, vėliau jos taikymas išplėstas į tekstą, garsą ir vaizdo turinį. Ji nėra bendras viso interneto detektorius.
Naudojimo esmė paprasta: jei turinys sukurtas įrankiu, kuris palaiko SynthID žymėjimą, vėliau galima atlikti patikrinimą. Patikrinimo rezultatas paprastai nėra žmogui matomas ženklas. Tai detektoriaus pateikiamas įvertinimas, ar rastas SynthID tipo signalas.
- Platformos gali žymėti DI sugeneruotus vaizdus ar kitą mediją.
- Leidėjai gali tikrinti, ar gautas failas turi vandens ženklo požymių.
- Tyrėjai gali analizuoti, kaip vandens ženklai išlieka po redagavimo.
- Vartotojai gali gauti daugiau informacijos apie turinio kilmę, jei tikrinimo priemonė prieinama.
Nauda: SynthID padeda atskirti kilmę, bet nepakeičia faktų tikrinimo
Pagrindinė SynthID nauda – papildomas signalas apie turinio kilmę. Jis gali padėti platformoms, žurnalistams ir saugumo tyrėjams nustatyti, ar konkretus objektas galėjo būti sukurtas DI modeliu. Tai ypač aktualu, kai generatyviniai modeliai kuria realistiškus žmonių, įvykių ar dokumentų atvaizdus.
Ši technologija sprendžia ne tiesos, o kilmės klausimą. Vandens ženklas gali rodyti, kad turinys sukurtas DI įrankiu, bet jis nepasako, ar teiginys tekste yra teisingas, ar vaizde pavaizduotas įvykis realus. Faktų tikrinimui vis tiek reikalingi šaltiniai, kontekstas, data, autorius ir nepriklausomas patvirtinimas.
SynthID naudinga lyginti su C2PA ir „Content Credentials“ standartu. C2PA remiasi kriptografiniais įrašais ir metaduomenimis apie turinio kilmę bei redagavimo istoriją. SynthID veikia pačiame turinyje, tad šios technologijos gali viena kitą papildyti.
Kaip veikia teksto žymėjimas, kai nėra matomo failo signalo
Tekstas neturi pikselių ar garso bangos, todėl vandens ženklinimas remiasi kalbos modelio tikimybių pasiskirstymu. Kai modelis renka kitą žodį ar jo dalį, jis vertina daugybę galimų pasirinkimų. SynthID tipo metodas gali šiek tiek dažniau rinktis tam tikras leistinas alternatyvas, išlaikydamas įprastą sakinio prasmę.
Vėliau detektorius tikrina, ar tekste yra toks pasirinkimų raštas, kurio atsitiktinai tikėtis mažiau tikėtina. Tai statistinis vertinimas, o ne parašas kiekviename žodyje. Trumpuose tekstuose aptikimas paprastai sudėtingesnis, nes statistinei analizei reikia pakankamai duomenų.
Apribojimai: SynthID nėra universalus DI detektorius
SynthID gali aptikti tik tokį turinį, kuris buvo pažymėtas suderinamu procesu. Jei vaizdas, tekstas ar garsas sukurtas kita sistema be SynthID žymos, ši technologija neturi ko aptikti. Tai vienas svarbiausių skirtumų nuo bendrų DI detektorių, kurie bando spėti pagal stilių ar kitus požymius.
Redagavimas taip pat turi reikšmės. Apkarpymas, suspaudimas, filtrai, vertimas, perrašymas ar kelių šaltinių sujungimas gali susilpninti vandens ženklą. Kai kurie pakeitimai gali palikti pakankamai signalo, kiti – jį sunaikinti. Dėl to aptikimo rezultatas turi būti vertinamas atsargiai.
Dar viena riba – klaidų tikimybė. Bet kuri statistinė sistema gali turėti klaidingai teigiamų ir klaidingai neigiamų rezultatų. Patikimas sprendimas neturėtų remtis vien SynthID išvada, ypač kai kalbama apie teisines, politines ar reputacines pasekmes.
Kuo SynthID skiriasi nuo paprastų DI teksto detektorių
Paprasti DI detektoriai dažnai vertina teksto stilių: sakinių vienodumą, žodyno pasikartojimą, tikėtinumo modelius. Tokie požymiai nėra patikimas autorystės įrodymas, nes žmogus gali rašyti labai tvarkingai, o DI tekstą galima redaguoti. SynthID remiasi ne bendru stiliaus įspūdžiu, o iš anksto įterptu signalu.
Šis skirtumas svarbus praktikoje. Jei signalas įterptas generavimo metu, aptikimas turi aiškesnį techninį pagrindą. Jei signalas neįterptas, SynthID negali kompensuoti šio trūkumo vien analizuodamas turinį.
Ką verta žinoti prieš pasitikint SynthID patikra
SynthID yra vienas iš DI turinio kilmės nustatymo įrankių, o ne galutinis arbitras. Jis geriausiai veikia tada, kai žinoma, kad turinys galėjo būti sukurtas suderinamu „Google“ DI įrankiu ir nebuvo smarkiai pakeistas. Be šių sąlygų rezultatas tampa mažiau informatyvus.
Vertinant DI sukurtą turinį patartina žiūrėti į kelis požymius: vandens ženklą, metaduomenis, publikavimo kontekstą, šaltinį, redagavimo pėdsakus ir nepriklausomus faktų patvirtinimus. Tokia praktika mažina klaidos riziką ir leidžia atskirti techninį kilmės signalą nuo turinio patikimumo.
Šaltiniai:
https://deepmind.google/technologies/synthid/
https://blog.google/technology/ai/google-deepmind-synthid-ai-generated-images/
https://deepmind.google/discover/blog/watermarking-ai-generated-text-and-video-with-synthid/
https://c2pa.org/specifications/specifications/2.0/index.html
