Фотография в интернете может быть настоящей и при этом вводить в заблуждение, поэтому Google DeepMind разработала экспериментальный инструмент Backstory, который помогает выяснить происхождение изображения и проследить, как его использовали в сети. Система проверяет, создавалась ли картинка генеративным ИИ, редактировали ли её и где она появлялась раньше.
Backstory работает на базе Gemini и объединяет несколько технологий проверки изображений. Пользователь загружает картинку и задаёт вопрос, после чего система анализирует признаки генерации, доступные метаданные и найденный в интернете контекст. Результаты Backstory собирает в понятный отчёт, а затем позволяет уточнять отдельные детали дополнительными запросами.
Google DeepMind подчёркивает, что одного определения ИИ-контента недостаточно для оценки достоверности. Обычная фотография может быть отредактирована или опубликована в другом контексте, из-за чего исходный смысл меняется. В то же время изображение, созданное генеративной моделью, само по себе не обязательно содержит ложную информацию.
Поэтому Backstory пытается восстановить историю изображения целиком. Система ищет предыдущие публикации, сопоставляет обстоятельства появления картинки и проверяет признаки цифровых изменений. Такой подход должен помочь понять не только способ создания файла, но и то, как содержание использовали раньше и менялся ли смысл изображения со временем.
Пока Backstory остаётся экспериментальным проектом. Google DeepMind тестирует систему вместе с создателями контента и специалистами, которые работают с проверкой и распространением информации. В течение года компания планирует собирать отзывы о качестве результатов и сценариях применения, чтобы доработать технологию перед дальнейшим развитием.