Происхождение изображений ИИ становится все труднее установить 06.09.2026

Генеративный искусственный интеллект способен создавать изображения, в которых угадываются особенности определенных художественных стилей, однако установить источник конкретного визуального элемента оказывается значительно сложнее. Исследование специалистов лаборатории MIT CSAIL показывает, что по мере увеличения обучающего набора данных надежно определить, какое именно изображение повлияло на результат работы модели, становится практически невозможно.

Чтобы изучить эту проблему, исследователи создали около двух десятков собственных диффузионных моделей и обучили их на наборах, содержащих от нескольких сотен до сотен тысяч изображений. В экспериментах использовались фотографии лиц, а также произведения различных художников. Независимо от размера и состава наборов данных ученые наблюдали одну закономерность: чем больше изображений использовалось для обучения, тем труднее становилось определить вклад отдельной работы в последующий результат. Это явление авторы назвали "утратой атрибуции" (attribution decay).

Руководитель исследования Чжэн Дай объясняет, что сама постановка вопроса кажется вполне естественной: если генеративная модель создала изображение, напоминающее определенную работу, возникает желание выяснить, какая именно часть обучающих данных привела к появлению конкретного элемента. Однако результаты экспериментов показывают, что подобная связь постепенно размывается. В крупной модели влияние множества изображений оказывается настолько переплетенным, что выделить вклад одного произведения становится чрезвычайно сложно.

Для проверки этого эффекта специалисты использовали сравнительный подход. Они сопоставляли обычный результат работы модели с альтернативным вариантом, полученным после исключения определенных изображений из обучающего набора. Если удаление конкретной работы заметно изменяло результат, можно было предположить, что она действительно оказывала на него влияние. Однако при увеличении объема исходных данных такая зависимость становилась все слабее, что и позволило исследователям зафиксировать эффект утраты атрибуции.

Полученные результаты имеют непосредственное значение для художников, пытающихся защитить свои авторские права. Если невозможно надежно показать, что конкретная работа стала причиной появления определенного элемента в изображении, доказать прямое влияние произведения на результат генерации значительно труднее. Причем для коммерческих генеративных систем проблема может быть еще серьезнее: они, как правило, используют гораздо более масштабные обучающие массивы, чем модели, исследованные в лабораторных экспериментах MIT CSAIL.

Авторы работы подчеркивают, что речь идет не просто о технической особенности машинного обучения. Проблема затрагивает более широкий круг вопросов, связанных с использованием произведений искусства для обучения искусственного интеллекта. Если происхождение отдельных элементов сгенерированного контента невозможно установить с достаточной надежностью, становится сложнее определить, каким образом должны применяться существующие нормы авторского права и кто должен нести ответственность за использование творческих материалов.

По мнению исследователей, дальнейшее развитие генеративного ИИ требует более глубокого понимания внутренних механизмов подобных моделей. Необходимо выяснить, каким образом огромные массивы изображений совместно формируют конечный результат и существуют ли методы, позволяющие надежнее отслеживать влияние отдельных произведений. Такие знания могут оказаться важными не только для научных исследований, но и для разработки технических стандартов, этических принципов и будущих правил регулирования генеративных технологий.