У той час, коли це стало Важко відрізнити справжнє фото від того, що створене штучним інтелектом.Google вирішив зробити свого помічника Gemini ще одним кроком. Тепер додаток містить функцію, яка дозволяє перевірити, чи було зображення оброблено моделями штучного інтелекту компанії, що особливо актуально для користувачів в Іспанії та Європі, які хочуть знати, що стоїть за зображеннями, які вони отримують через соціальні мережі, месенджери або електронну пошту.
Ця нова функція означає, що з Завантажте зображення в застосунок Gemini та поставте просте запитання Наприклад, якщо ви задасте запитання на кшталт «Чи створено це за допомогою штучного інтелекту Google?» або «Чи згенеровано це штучним інтелектом?», помічник проаналізує фотографію та відповість, чи було її згенеровано чи відредаговано за допомогою систем Google. Крім того, він не просто надає відповідь «так» чи «ні»: він супроводжує відповідь додатковим контекстом щодо контенту, допомагаючи краще оцінити його походження.
Як Gemini перевіряє, чи було зображення створено за допомогою штучного інтелекту Google
Основою цієї системи є SynthID, технологія невидимих водяних знаків, яку Google представив два роки томуЦей інструмент вставляє цифровий сигнал безпосередньо в пікселі зображень, згенерованих або відретушованих за допомогою моделей штучного інтелекту, без будь-яких видимих змін. Водяний знак залишається навіть після обрізання, стиснення або застосування фільтрів фотографії, що поширено під час обміну даними через месенджери або соціальні мережі.
Коли користувач завантажує фотографію в додаток і ставить запитання, Gemini перевіряє зображення в пошуках водяного знака SynthIDЯкщо зображення знайдено, система вкаже, що фотографія «була створена або відредагована штучним інтелектом Google», і додасть додаткову інформацію, таку як контекст щодо типу контенту та де щось подібне було помічено в Інтернеті. Якщо ж бренд не знайдено, система уточнить, що зображення, схоже, не було згенеровано за допомогою моделей Google, хоча й залишить можливість того, що воно походить з інших інструментів штучного інтелекту.
Цей тип перевірки особливо корисний у повсякденні ситуації, в яких отримують дуже реалістичні зображенняВід нібито актуальних фотографій, що поширюються в групах WhatsApp, до реклами чи креативного контенту в соціальних мережах, замість того, щоб покладатися виключно на людське око, користувач може використовувати технічний маркер, вбудований у саме зображення.
Google стверджує, що SynthID вже застосовано до мільярди одиниць контенту, згенерованих їхніми моделями, включаючи ті, що створюють такі системи, як Нано Банан Про (модель генерації зображень, пов'язана з Gemini), що дає уявлення про обсяг цієї перевірки в екосистемі компанії.
Поряд із невидимим водяним знаком, Google також підтримує видимий бренд на багатьох згенерованих зображеннях Для користувачів безкоштовних планів та Google AI Pro у Gemini є своєрідне «світіння», яке служить чітким попередженням для пересічного користувача. Однак у професійному середовищі цю видиму позначку можна деактивувати, щоб забезпечити чисте полотно, тому перевірка спирається на SynthID та метадані.
Крок за кроком: як використовувати перевірку зображень у застосунку Gemini
Процес розроблено таким чином, щоб Будь-хто з мобільним телефоном Android або iOS може користуватися ним без технічних ускладнень.Вам не потрібно бути експертом з редагування чи генеративного штучного інтелекту; вам просто потрібно знати поради щодо написання гарних підказок Це може допомогти, і вам просто потрібно виконати кілька кроків із самого додатка Gemini.
Спочатку відкрийте програму та натисніть кнопку «Додати файл», яка зазвичай відображається внизу екрана зі значком «+». Звідти ви можете вибрати зображення з мобільна галерея, папка з файлами або сервіси, такі як Google ДискПісля завантаження фотографії вводиться запитання, таке як «Чи було це зображення створено або відредаговано штучним інтелектом?» або «Чи було воно згенероване штучним інтелектом Google?», і запит надсилається.
По-друге, Gemini аналізує зображення, шукає сигнали SynthID та Він повертає повідомлення зі своєю оцінкою.Якщо система виявляє бренд, вона чітко зазначає про це; якщо не знаходить, пояснює, що його не було створено за допомогою штучного інтелекту Google або що система не може визначити це з повною впевненістю. У деяких випадках вона також вказує на те, що неможливо дізнатися, чи використовувався інший зовнішній інструмент штучного інтелекту.
Третій крок — інтерпретувати відповідь за певними критеріями. Відсутність брендингу SynthID не обов'язково означає, що фотографія є автентичною. У класичному розумінні (знято камерою без будь-яких маніпуляцій) це просто означає, що сигнал Google не виявлено. Це може бути реальне зображення, згенероване іншим штучним інтелектом, або контент, настільки сильно змінений, що бренд значно погіршився.
Google визнає, що існують технічні обмеження в крайніх випадкахДуже прості зображення, файли, сильно пошкоджені послідовним стисненням або дуже агресивним редагуванням, можуть ускладнити читання водяного знака. Незважаючи на це, система була розроблена для того, щоб витримувати звичайне обрізання, зміну розміру та коригування яскравості чи кольору, з метою зробити її корисною в реальних мережах та обміні повідомленнями.
SynthID, C2PA та мета кращого відстеження цифрового контенту
Інтеграція SynthID у Gemini не відбувається сама по собі. Google також бере участь у цьому C2PA, міжнародна коаліція з питань походження та автентичності контенту до якої входять такі компанії, як Adobe, OpenAI, Meta та Microsoft. Ця група створила стандарт метаданих, який дозволяє включати достовірну інформацію про походження та історію редагування зображення, аудіо чи відео.
На практиці ці Метадані C2PA діють як своєрідний технічний паспорт, вбудований у файлЦе вказує на те, який інструмент було використано для створення контенту, які зміни було внесено та коли. Google починає включати цей тип облікових даних у зображення, згенеровані такими моделями, як Nano Banana Pro, у додатку Gemini, а також у твори, створені за допомогою Vertex AI та Google Ads.
Поєднання SynthID та C2PA дозволяє, з одного боку, Позначте зображення, згенеровані штучним інтелектом Google А з іншого боку, запропонувати канал для перевірки файлів, що походять від сторонніх інструментів, що використовують цей стандарт. Компанія має намір поступово розширити ці метадані на більше продуктів, включаючи сервіси, що широко використовуються в Європі, такі як YouTube, Google Фото та сам Пошук.
Для журналістів, фахівців з перевірки фактів та цифрових медіа в Іспанії та інших європейських країнах, які мають доступ до Стандартний механізм походження контенту може бути ключовим. у висвітленні чутливих подій, від виборчих кампаній до міжнародних конфліктів. Наразі використання C2PA зростає, але його впровадження ще не є повсюдним, тому повна відстежуваність залишається середньостроковою метою.
Окрім прямої інтеграції в додаток, Google тестує цю технологію на спеціальному порталі верифікації, Детектор SynthIDСпочатку розроблений для журналістів, дослідників та медіа-фахівців, цей інструмент виділяє частини зображення, які найімовірніше будуть позначені, та доповнює більш загальне використання, яке зараз пропонує Gemini.
Плани на майбутнє: від зображень до відео, аудіо та пошуку
Google чітко дав зрозуміти, що не хоче обмежувати перевірку статичними фотографіями. Їхні плани включають розширення SynthID на такі формати, як відео та аудіо.Це дозволить надійніше ідентифікувати контент, створений штучним інтелектом на цих платформах. Це особливо актуально з огляду на поширення голосових та відео діпфейків, які вже призвели до інцидентів з дезінформацією в кількох європейських країнах.
Ще однією метою є поширення цих можливостей на такі далекосяжні послуги, як Пошук Google, пошукова системаІдея полягає в тому, що коли користувач знаходить зображення в Інтернеті, він може легко перевірити, чи це контент, створений штучним інтелектом, і якщо так, то яку модель він використовує. Цей тип контекстної інформації вже поступово включається до деяких результатів пошуку, але конкретна інтеграція SynthID та C2PA все ще розгортається.
Тим часом Google продовжує інтеграція SynthID в інші інструменти своєї екосистеми, як-от Magic Editor та функція Reimagine на телефонах Pixel, які дозволяють редагувати фотографії за допомогою штучного інтелекту. Таким чином, будь-які суттєві зміни, внесені цими системами, позначаються для подальшого виявлення, додаючи шар прозорості функціям, які в іншому випадку могли б створювати зображення, які важко відрізнити від традиційної фотографії.
Компанія визнає, що доки не існуватиме універсально прийнятої системи брендингу на всіх платформах для створення зображень, перевірка обов'язково буде частковою. Однак вона наполягає на тому, що зробити цей крок у межах власної екосистеми Це спосіб сприяти впровадженню стандартів та запропонувати користувачам конкретні інструменти для навігації у дедалі складнішому цифровому середовищі.
У випадку Європи, де інституції ЄС працюють над нормативно-правовими базами для штучного інтелекту та дезінформації, цей тип технологічної ініціативи може підійти як практичне доповнення до правових вимог, надаючи громадянам, ЗМІ та адміністраціям системи верифікації, доступні з мобільних телефонів.
Що може і не може зробити верифікація Gemini сьогодні
Хоча запуск цієї функції є значним кроком уперед, Близнюки — це не чарівний інструмент, який вирішує всі проблеми автентичності.Наразі його перевага полягає у визначенні того, чи було зображення створено чи відредаговано штучним інтелектом Google завдяки SynthID; крім цього, помічник може робити оцінки лише на основі візуального аналізу.
У тестах із зображеннями, згенерованими іншими інструментами, такими як зовнішні моделі, що не використовують SynthID, Gemini іноді вдавалося інтуїтивно зрозуміти, що це був синтетичний вмістОднак йому бракує рівня впевненості, який він пропонує під час виявлення невидимого водяного знака. Також спостерігалися ситуації, коли система інтерпретує фотографію як стокову, хоча насправді вона походить від іншого штучного інтелекту, демонструючи, що суто візуальний аналіз все ще має певну похибку.
Близнюки іноді можуть вказувати на такі повідомлення, як: «Це зображення не було створено за допомогою штучного інтелекту Google, але неможливо визначити, чи було воно згенеровано за допомогою інших інструментів штучного інтелекту».Іншими словами, асистент прозоро визнає свої обмеження, коли не має технічних сигналів, які дозволяють йому підтвердити походження зображення.
Для пересічного користувача це означає, що функцію верифікації слід розуміти як ще один інструмент у наборі інструментівІ не як єдиний критерій для вирішення, чи вірити фотографії, чи ні. Критика контексту, джерела, яке поширює її, та способу використання зображення все ще є фундаментальною, особливо в делікатних питаннях, таких як політика, охорона здоров'я чи безпека.
Однак, можливість швидко завантажити фотографію в додаток Gemini та отримати контекстну відповідь за лічені секунди є плюсом. Він являє собою практичний ресурс виявляти принаймні зображення, пов’язані з екосистемою Google, що особливо корисно в цифрових рекламних кампаніях, спонсорованому контенті, вірусних новинах або графічних ресурсах, що поширюються в мережах Іспанії та решти Європи.
Поява цієї функції в додатку Gemini відповідає чіткій тенденції в технологічному секторі: великі компанії, що включають системи автентифікації та походження безпосередньо у ваших продуктах спробувати обмежити вплив дезінформації та маніпульованого контенту. У цьому контексті поєднання невидимих водяних знаків, стандартизованих метаданих та пояснень природною мовою від самого помічника дозволяє користувачам краще зрозуміти, що стоїть за кожним зображенням, яке вони бачать на своїх екранах.
