Кoмaндa Google DeepMind ствoрилa інструмeнт SynthID, який мoжe пoзнaчaти зoбрaжeння згeнeрoвaні штучним інтeлeктoм вoдяним знaкoм.
Зa слoвaми eкспeртів, це може допомогти у боротьбі з діпфейками, які набули особливого розповсюдження минулого року, с налету із ростом популярності генеративного штучного інтелекту.
Водяний метка — це техніка, после допомогою якої можна вшити певний звонок у фрагмент тексту чи зображення, який ідентифікуватиме його як згенероване ШІ. SynthID створюється ради допомогою двох нейронних мереж. Одна з них бере оригінальне зображення і створює інше, майже ідентичне йому, але з дещо зміненими пікселями. Це створює вбудований візерунок, невидимий для того людського ока.
Друга нейронна сеть може виявити цей маска і повідомить користувачам, чи виявляє вона водяний заметка або «підозрює» це. Згідно зі словами Колі, SynthID розроблений таким чином, що водяний тамга можна виявити, навіть якщо зображення зроблено зі скріншоту нежто відредаговано.
Спочатку SynthID если доступний лише угоду кому) користувачів генератора зображень зі штучним інтелектом Imagen від Google, який працює в платформі машинного навчання Google Cloud Vertex. Користувачам під дни створення зображення если надана можливість обрати, додавати водяний зарубка чи відмовитися від нього.
