Присоединяйтесь к событию, которым доверяют лидеры предприятия в течение почти двух десятилетий. VB Transform объединяет людей, строящих реальную стратегию ИИ предприятия. Узнать больше
Именно здесь: спустя месяцы после того, как он был впервые объявлен, «Палатный вечер», новый, бесплатный программный инструмент, позволяющий художникам «ядовать» модели искусственного интеллекта, стремящиеся тренироваться на своих работах, теперь доступен для артистов для загрузки и использования на любых произведениях, которые они считают нужными.
Разработанный компьютерными учеными в проекте Glaze в Чикагском университете при профессоре Бена Чжао, инструмент по сути работает, превращая ИИ против ИИ. Он использует популярную структуру машинного обучения с открытым исходным кодом, чтобы определить, что находится на данном изображении, а затем применяет тег, который тонко изменяет изображение на уровне пикселей, чтобы другие программы искусственного интеллекта видят что-то совершенно иное, чем то, что на самом деле там.
Это второй такой инструмент от команды: почти год назад команда представила Glaze, отдельную программу, предназначенную для изменения цифровых произведений искусства по предложению пользователя, чтобы запутать алгоритмы обучения искусственного интеллекта, чтобы думать, что изображение имеет другой стиль, чем то, что на самом деле присутствует (например, разные цвета и кожуры щетки, чем есть на самом деле).
Но в то время как чикагская команда разработала Glaze, чтобы стать оборонительным инструментом — и все еще рекомендует художникам использовать его в дополнение к пасленам, чтобы не подражать стилю художника от ИИ -моделей — паслен предназначен как «атакующий инструмент».
Модель ИИ, которая в конечном итоге тренировалась на многих изображениях, измененных или «затенена» с пасленом, вероятно, ошибочно классифицирует объекты, идущие вперед для всех пользователей этой модели, даже на изображениях, которые не были затенены с пасленом.
«Например, человеческие глаза могут увидеть затененный Изображение коровы в зеленом поле в значительной степени неизменным, но модель ИИ может увидеть большой кожаный кошелек, лежащий в траве », — объясняет команда.
Таким образом, модель ИИ, обученная изображениям коровы, заштрихованной, чтобы выглядеть так, будто кошелек начнет генерировать кошельки вместо коров, даже когда пользователь попросил модель сделать изображение коровы.
Требования и как работает паслен
Художники, стремящиеся использовать паслен, должны иметь Mac с чипсами Apple внутри (M1, M2 или M3) или ПК, работающий с Windows 10 или 11. Инструмент можно загрузить для обоих OSES здесь. Файл Windows также способен работать на графическом процессоре ПК, при условии, что он из Nvidia в этом списке поддерживаемого оборудования.
Некоторые пользователи также сообщили о длительном времени загрузки из -за подавляющего спроса на инструмент — до восьми часов в некоторых случаях (две версии имеют размеры 255 МБ и 2,6 ГБ для Mac и ПК соответственно.
Пользователи также должны согласиться с лицензионным соглашением об конечном пользователе (Eula) Глазурь/Паслен, которое предусматривает, что они используют инструмент на машинах под их контролем и не изменяют базовый исходный код и не «воспроизводят, копируют, распределяют, перепродают или не используют программное обеспечение для каких-либо коммерческих целей».
Паслен V1.0 «Преобразует изображения в образцы« ядовитой », так что (AI) модели, обучающие их без согласия, увидят, что их модели изучают непредсказуемые поведения, которые отклоняются от ожидаемых норм, например, в подсказке, которая запрашивает изображение коровьей в космосе, может вместо этого получить изображение сумочки, плавающей в космосе», — говорится в сообщении блога от команды по разработке на своем веб -сайте.
То есть, используя паслен V 1.0 для «затенения» изображения, изображение будет преобразовано в новую версию благодаря библиотекам ИИ с открытым исходным кодом-в идеале достаточно тонко, чтобы оно не выглядело сильно отличаться от человеческого глаза, но, похоже, он содержит Совершенно разные предметы на любые модели искусственного интеллекта, обучая его.
Кроме того, инструмент устойчив к большинству типичных преобразований и изменений, которые пользователь или зритель может сделать для изображения. Как объясняет команда:
«Вы можете обрезать его, повторно его, сжимать, сгладить пиксели или добавить шум, и последствия яда останутся. Вы можете сделать снимки экрана или даже фотографии изображения, отображаемого на мониторе, и эффекты оттенка остаются. Опять же, это потому, что это не водяное значение или скрытое сообщение (стягаграфия), и это не является Брифтикой».
Аплодисменты и осуждение
В то время как некоторые артисты поспешили загрузить паслен V1.0 и уже используют его-среди них Келли МакКернан, один из бывших ведущих истцов художника в продолжающемся классном судебном процессе по вопросам нарушения авторских действий против AI Art и Video Generation Midjourney, Deviantart, взлетно-посадочной полосы и стабильности AI-некоторые веб-пользователи, которые предлагают это, и это, как это представляет, что это связано с тем, что это связано с тем, что это связано с тем, что это так, и это. (Venturebeat использует Midjourney и другие генераторы изображений искусственного интеллекта для создания художественных работ статьи.)
Команда глазурь/паслен, со своей стороны, отрицает, что она ищет разрушительные цели, написание: «Цель паслена — не сломать модели, а увеличить стоимость обучения нелицензированным данным, так что лицензирование изображений от своих создателей становится жизнеспособной альтернативой».
Другими словами, создатели стремятся сделать так, чтобы разработчики моделей ИИ должны платить художникам, чтобы обучать данные, которые не связаны.
Последний фронт в быстро меняющейся борьбе за соскоба данных
Как мы сюда попали? Все сводится к тому, как были обучены генераторы изображений искусственного интеллекта: соскабливая данные со всей Интернета, включая соскабливание оригинальных произведений искусства, опубликованных художниками, которые не имели предварительных явных знаний, ни власти принятия решений об этой практике, и говорят, что результирующие модели ИИ, обученные их работам, угрожают их жизни, конкурируя с ними.
Как сообщается в Venturebeat, скрасивание данных включает в себя простые программы, называемые «ботами», промыть Интернет, а также копировать и преобразовать данные с публичных веб -сайтов в другие форматы, которые полезны для человека или сущности, выполняющего соскабливание.
Это была обычная практика в Интернете и часто используется до появления генеративного ИИ, и это примерно такая же методика, используемая Google и Bing для ползания и индексных веб -сайтов в результатах поиска.
Но это стало под новым анализом со стороны художников, авторов и креативщиков, которые возражают против их работы без их явного разрешения на обучение коммерческих моделей искусственного интеллекта, которые могут конкурировать или заменить свой рабочий продукт.
Создатели моделей ИИ защищают эту практику как не только необходимую для обучения своих творений, но и законно под «справедливым использованием», юридическая доктрина в США, в которой говорится, что предыдущая работа может использоваться в новой работе, если она трансформирована и используется для новой цели.
Хотя компании, такие как OpenAI, ввели код «отказа», который возражающие могут добавить к своим веб-сайтам, чтобы избежать соскобки для обучения искусственному интеллекту, в прошлом отмечает, что «списки отказа от не учитываются модель уверенность.»
Тогда паслен был задумано и разработан как инструмент для «решения этой асимметрии мощности».
Команда также объясняет их конечную цель:
«Ответственно, паслен может помочь удержать тренеров-моделей, которые игнорируют авторские права, списки отказа и не сбрасывают/роботы.
В основном: сделайте широко распространенную очистку данных для производителей моделей искусственного интеллекта, и заставьте их дважды подумать о том, чтобы сделать это, и, таким образом, заставляют их рассмотреть вопрос о заключении лицензионных соглашений с художниками -художниками как более жизнеспособной альтернативой.
Конечно, паслен не может изменить поток времени: любые произведения искусства, скрещенные до того, как его затеняют инструментом, все еще использовались для обучения моделей ИИ, и затенение сейчас может повлиять на эффективность модели в будущем, но только если эти изображения будут перестрочены и используются снова для обучения обновленной версии модели генератора изображений ИИ.
На техническом уровне также нет ничего, что не помешает кому-то использовать паслен для затенения искусства, сгенерированных AI, или произведения искусства, который они не создали, открывая дверь для потенциальных злоупотреблений.
Источник
