MIT CSAIL: у сгенерированных нейросетью изображений часто нет конкретного автора.
Мы обратили внимание на исследование MIT CSAIL: у сгенерированных нейросетью картинок часто нет конкретного автора среди обучающих данных.
Команда проверяла, можно ли отследить, какие именно снимки повлияли на итоговое изображение. Исследователи построили архитектуру из множества маленьких моделей, каждая из которых обучена на своём фрагменте данных. Это позволило по-настоящему удалять примеры, а не оценивать их влияние приближённо.
Результат: при больших объёмах данных можно убрать одну фотографию, все работы конкретного художника или все снимки конкретного человека, и итоговая картинка не изменится. Ведущий автор Чжэн Дай называет это «затуханием атрибуции»: чем больше данных, тем меньше значит для результата каждый отдельный пример.
Профессор Дэвид Гиффорд отмечает, что прежние методы были приблизительными, а этот впервые доказывает отсутствие влияния точно, а не оценочно.
Подробнее в материале MIT News.
Ещё новости:
