Из премьер-министра Италии сделали порнодиву и она теперь требует возмещения ущерба
При помощи технологии deepfake сделали. Один мужик сделал и загрузил на американский порноресурс, где ролик за несколько месяцев просмотрели миллионы раз. Мужика вычислили по гаджету, с которого заливался видос. Джорджа Мелони привлекла его к суду и требует возмещения ущерба на сумму в 100 тысяч евро. В случае удовлетворения иска она передаст их другим жертвам deepfake’ов. А мужика скорее всего посадят, потому что в Италии это все подсудное дело.
Технология дипфейков и планы правительства по их выявлению
Дипфейк, создаваемый с помощью нейросетей реалистичный фальшивый контент, может использоваться для распространения дезинформации и обмана. Для борьбы с этой угрозой Министерство цифрового развития Российской Федерации (Минцифры) планирует создать универсальную платформу, способную распознавать дипфейки.
Поручение о разработке такой платформы было дано премьер-министром Михаилом Мишустиным в декабре 2023 года. На данный момент проект находится на стадии предварительных исследований, и неизвестно, кто будет заниматься разработкой и когда она будет запущена.
В настоящее время выявление дипфейков осуществляется вручную специалистами, которые анализируют конкретные видеозаписи. Совершенствование технологий нейросетей усложняет эту задачу, поэтому эксперты предлагают доверить анализ дипфейков автоматизированным системам.
Одна из идей заключается в создании плагина для браузера, который будет автоматически сканировать и отмечать контент, сгенерированный нейросетями. Однако для реализации этого решения необходимо согласие и участие социальных сетей и мессенджеров. К примеру, для мониторинга Telegram потребуется разработка специального программного обеспечения или получение разрешения на доступ к API сервиса.
Наиболее простой подход к борьбе с дипфейками — обязать все системы, их генерирующие, маркировать данный контент соответствующим образом. Хотя некоторые системы уже внедрили эту функцию, заставить всех разработчиков соблюдать данное правило представляется нереалистичной задачей. Более того, для большинства сервисов это невыгодно, поэтому без единой централизованной платформы для выявления дипфейков обойтись не получится.
Дополнительная информация по теме
Дипфейки представляют собой растущую угрозу для общества. Они могут быть использованы для создания поддельных новостей, распространения клеветы или манипулирования общественным мнением. Не только государственные органы, но и компании и отдельные лица предпринимают шаги для борьбы с дипфейками.
Некоторые технологические компании разрабатывают собственные инструменты для выявления дипфейков. Например, Meta Platforms тестирует модель машинного обучения, которая может анализировать особенности лица и движения, чтобы определить, генерировалось ли видео искусственным интеллектом.
Активисты и исследователи также работают над повышением осведомленности о дипфейках и призывают к разработке этических норм для их использования. Например, инициатива The Deepfake Detection Challenge присуждает награды за разработку эффективных методов выявления дипфейков.
Регулирование дипфейков представляет собой сложную задачу. С одной стороны, необходимо обеспечить защиту общественности от дезинформации и манипуляций. С другой стороны, чрезмерное регулирование может привести к подавлению свободы слова и инноваций. Законодателям и регулирующим органам предстоит найти баланс между этими двумя целями.
Возможные решения для борьбы с дипфейками:
- Техническое выявление: Создание автоматизированных систем, способных распознавать дипфейки с высокой степенью точности.
- Маркировка и прослеживаемость: Обязательство систем, генерирующих дипфейки, маркировать их как таковые и обеспечивать возможность прослеживания их происхождения.
- Регулирование и правоприменение: Разработка законов и правил, запрещающих использование дипфейков в злонамеренных целях и предусматривающих наказания за их нарушение.
- Образование и повышение осведомленности: Информирование общественности об опасностях дипфейков и обучение людей навыкам их выявления.
- Международное сотрудничество: Совместная работа правительств и организаций по борьбе с распространением дипфейков на глобальном уровне.
