Происхождение изображений ИИ становится все труднее установить

06.09.2026

Генеративный искусственный интеллект способен создавать изображения, в которых угадываются особенности определенных художественных стилей, однако установить источник конкретного визуального элемента оказывается значительно сложнее. Исследование специалистов лаборатории MIT CSAIL показывает, что по мере увеличения обучающего набора данных надежно определить, какое именно изображение повлияло на результат работы модели, становится практически невозможно.

Чтобы изучить эту проблему, исследователи создали около двух десятков собственных диффузионных моделей и обучили их на наборах, содержащих от нескольких сотен до сотен тысяч изображений. В экспериментах использовались фотографии лиц, а также произведения различных художников. Независимо от размера и состава наборов данных ученые наблюдали одну закономерность: чем больше изображений использовалось для обучения, тем труднее становилось определить вклад отдельной работы в последующий результат. Это явление авторы назвали "утратой атрибуции" (attribution decay).

Руководитель исследования Чжэн Дай объясняет, что сама постановка вопроса кажется вполне естественной: если генеративная модель создала изображение, напоминающее определенную работу, возникает желание выяснить, какая именно часть обучающих данных привела к появлению конкретного элемента. Однако результаты экспериментов показывают, что подобная связь постепенно размывается. В крупной модели влияние множества изображений оказывается настолько переплетенным, что выделить вклад одного произведения становится чрезвычайно сложно.

Для проверки этого эффекта специалисты использовали сравнительный подход. Они сопоставляли обычный результат работы модели с альтернативным вариантом, полученным после исключения определенных изображений из обучающего набора. Если удаление конкретной работы заметно изменяло результат, можно было предположить, что она действительно оказывала на него влияние. Однако при увеличении объема исходных данных такая зависимость становилась все слабее, что и позволило исследователям зафиксировать эффект утраты атрибуции.

Полученные результаты имеют непосредственное значение для художников, пытающихся защитить свои авторские права. Если невозможно надежно показать, что конкретная работа стала причиной появления определенного элемента в изображении, доказать прямое влияние произведения на результат генерации значительно труднее. Причем для коммерческих генеративных систем проблема может быть еще серьезнее: они, как правило, используют гораздо более масштабные обучающие массивы, чем модели, исследованные в лабораторных экспериментах MIT CSAIL.

Авторы работы подчеркивают, что речь идет не просто о технической особенности машинного обучения. Проблема затрагивает более широкий круг вопросов, связанных с использованием произведений искусства для обучения искусственного интеллекта. Если происхождение отдельных элементов сгенерированного контента невозможно установить с достаточной надежностью, становится сложнее определить, каким образом должны применяться существующие нормы авторского права и кто должен нести ответственность за использование творческих материалов.

По мнению исследователей, дальнейшее развитие генеративного ИИ требует более глубокого понимания внутренних механизмов подобных моделей. Необходимо выяснить, каким образом огромные массивы изображений совместно формируют конечный результат и существуют ли методы, позволяющие надежнее отслеживать влияние отдельных произведений. Такие знания могут оказаться важными не только для научных исследований, но и для разработки технических стандартов, этических принципов и будущих правил регулирования генеративных технологий.

<< Назад: Ультраширокий монитор LG 40HT513D 07.09.2026

>> Вперед: Часы Casio G-Shock GBX-H5600KI-5 06.09.2026

Последние новости науки и техники, новинки электроники:

Ферроэлектрики научились выдерживать более 10 миллиардов циклов перезаписи 11.10.2026

Энергонезависимая память должна не только быстро записывать и сохранять информацию без постоянного питания, но и выдерживать огромное количество циклов перезаписи. Одним из перспективных вариантов такой технологии считаются ферроэлектрические материалы, однако их практическое применение долгое время ограничивалось сравнительно быстрым разрушением. Исследователям удалось установить механизм этого процесса на атомном уровне и предложить способ, который значительно увеличивает срок службы таких материалов. Работу выполнила группа ученых из Университета электронной науки и техники Сианя (Xidian University) совместно с коллегами из Гонконгского университета и Фуданского университета. Особый интерес специалистов вызвали ферроэлектрики со структурой вюрцита, в частности нитрид алюминия-скандия (AlScN). Эти материалы способны сохранять информацию благодаря изменению направления электрической поляризации на атомном уровне и хорошо совместимы с современными технологиями производства микросхем ...>>

Электромобиль VENTRA с системой очистки воздуха 11.10.2026

Даже автомобили без двигателя внутреннего сгорания не являются полностью безвредными для окружающей среды. При движении любой автомобиль изнашивает шины и тормозные элементы, в результате чего в воздух и на дорожное покрытие попадают мельчайшие частицы. Студенты Эйндховенского технологического университета решили обратить внимание именно на этот мало заметный источник загрязнения и создали концептуальный электромобиль VENTRA, способный собирать часть таких загрязняющих веществ непосредственно во время движения. Проект разработала команда TU/ecomotive, которая оснастила VENTRA специальной системой улавливания частиц, образующихся при износе шин и торможении. Авторы концепта считают, что переход на электрическую тягу сам по себе не решает проблему автомобильных выбросов. Более тяжелые электромобили дополнительно нагружают шины, а их электродвигатели способны обеспечивать очень быстрое ускорение, что также может способствовать повышенному износу резины. Собранные около колес частицы си ...>>

Лазерное переключение магнитов 10.10.2026

Технологии хранения данных постоянно стремятся уменьшить размеры элементов памяти и одновременно увеличить скорость записи информации. Один из возможных путей связан с использованием света, который способен переносить энергию с огромной скоростью и воздействовать на очень небольшие области материала. Инженеры Университета Калифорнии в Сан-Диего (UC San Diego) продемонстрировали необычный способ управления магнитным состоянием вещества, при котором внешнее магнитное поле вообще не требуется. В обычных жестких дисках информация записывается в виде последовательности крошечных магнитных областей, соответствующих значениям 1 и 0. Для изменения их состояния обычно необходимо внешнее магнитное поле, однако такой способ требует значительных энергетических затрат и ограничивает скорость записи. Исследователи UC San Diego предложили альтернативу - так называемое оптическое переключение, при котором магнитное состояние изменяется под воздействием лазерного излучения. По оценкам специалистов, ...>>

Наушники Neurable One с мониторингом концентрации и усталости мозга 10.10.2026

Современные наушники постепенно превращаются из обычного аудиоустройства в персональный электронный помощник. Они уже умеют подавлять окружающий шум, анализировать качество звука и отслеживать некоторые параметры физического состояния человека. Американская компания Neurable пошла еще дальше и предложила использовать наушники для оценки активности мозга, чтобы определить, насколько человек сосредоточен, испытывает умственное напряжение или начинает уставать. Новая модель получила название Neurable One и оснащена 12 датчиками, способными регистрировать электрическую активность мозга. В основе технологии лежит электроэнцефалография, или EEG, применяемая для фиксации электрических сигналов, возникающих при работе нервной системы. Датчики размещены во внутренних накладках наушников и начинают получать информацию сразу после того, как пользователь надевает устройство. Затем специальное приложение анализирует полученные данные и оценивает текущее состояние человека. Разработчики предус ...>>

Климатический кризис меняет питание детей и влияет на их здоровье 09.10.2026

Когда говорят о влиянии климатических изменений на здоровье человека, чаще всего вспоминают экстремальную жару, наводнения, засухи или лесные пожары. Однако последствия глобального потепления могут проявляться гораздо менее заметно. Один из таких механизмов связан с продовольствием: изменения климата способны влиять на урожайность, стоимость продуктов и их доступность, а через это - на качество питания детей. Особое значение эта проблема приобретает в первые годы жизни. Дети в возрасте до пяти лет особенно чувствительны к недостатку необходимых питательных веществ, поскольку именно в этот период питание и окружающая среда тесно связаны с ростом организма, развитием и формированием иммунной системы. Если полноценная пища становится менее доступной, последствия могут проявляться не сразу, но отражаться на здоровье ребенка в дальнейшем. Бразильские исследователи попытались определить, где подобные проблемы могут пересекаться с климатическими факторами. Для этого специалисты разработ ...>>

Случайная новость из Архива Лекарство само за себя говорит 22.04.2001 Пожилому человеку нередко бывает нелегко прочитать инструкцию к лекарству, напечатанную мелким шрифтом. По оценкам, только в США из-за ошибок при использовании медикаментов ежегодно гибнут 98000 человек и попадают в больницы до двух миллионов. Американская фирма "ИнВижн" предлагает прятать в пробке или под этикеткой флакончика с лекарством микросхему, на которой записаны сведения о медикаменте и правила его использования. Если поднести к флакончику миниатюрный синтезатор речи, этот карманный приборчик вслух прочитает название лекарства, фамилию и телефон врача, размер дозы и правила приема. Громкость и скорость чтения можно регулировать.

Смотрите полный Архив новостей науки и техники, новинок электроники

www.diagram.com.ua
2000-2026