DALL-E 3 ще добавя воден знак в метаданните на изображенията

OpenAI

Генераторът на изображения DALL-E 3 на OpenAI ще добави водни знаци към метаданните на изображенията, тъй като все повече компании внедряват поддръжка за стандарти от Коалицията за произход и автентичност на съдържанието (C2PA), пише The Verge.

Компанията съобщи, че водните знаци от C2PA ще се показват в изображения, генерирани на уебсайта ChatGPT и API за модела DALL-E 3. Мобилните потребители ще получат водните знаци до 12 февруари. Те ще включват както невидим компонент на метаданни, така и видим символ CR, който ще се появи в горния ляв ъгъл на всяко изображение.

Хората могат да проверят произхода – кой AI инструмент е използван за създаване на съдържание – на всяко изображение, генерирано от платформите на OpenAI, чрез уебсайтове като Content Credentials Verify. Засега само неподвижни изображения, не видеоклипове или текст, могат да носят воден знак.

OpenAI казва, че добавянето на метаданни за водния знак към изображенията представлява „незначителен ефект върху латентността и няма да повлияе на качеството на генерирането на изображението“. Освен това ще увеличи леко размера на изображенията за някои задачи.

C2PA, група, състояща се от компании като Adobe и Microsoft, настоява за използването на водния знак Content Credentials, за да идентифицира произхода на съдържанието и да покаже дали е създадено от хора или с AI. Adobe създаде символ за идентификационни данни за съдържание, който OpenAI добавя към DALL-E 3 творения. Meta наскоро обяви, че ще добави тагове към генерирано от AI съдържание на своите платформи.

Идентифицирането на генерирано от AI съдържание е една от водещите директиви в изпълнителната заповед на администрацията на Байдън относно AI. Но водният знак не е сигурен начин за спиране на дезинформацията. OpenAI посочва, че метаданните на C2PA могат „лесно да бъдат премахнати случайно или умишлено“, особено след като повечето  платформи за социални медии често премахват метаданни от качено съдържание. Правенето на екранна снимка (screenshot) пропуска метаданните.

„Ние вярваме, че приемането на тези методи за установяване на произхода и насърчаването на потребителите да разпознават тези сигнали са ключови за повишаване на надеждността на цифровата информация“, казва OpenAI на своя сайт.