Перед выборами в Индии Instagram продвигает изображения Моди AI, которые нарушают правила | Выборы в Индии 2024 г.

Бангалор, Индия – В начале марта реалистичное изображение премьер-министра Индии Нарендры Моди, созданное с помощью искусственного интеллекта, в стиле Бхишмы Питамы из древнего индуистского эпоса «Махабхарата», было размещено в качестве политической рекламы в Instagram.

С длинными волнистыми седыми волосами, отметиной в форме солнца на лбу и бронежилетом, изображение изображало то, что поклонники Моди видят в его роли в современном мире: реинкарнацию верховного главнокомандующего Бхишмы, который боролся с иностранными угрозами.

Это изображение в Instagram, созданное правой страницей Хокаге Моди Сама и впервые опубликованное в 2023 году, в течение двух дней в марте рекламировалось как политическая реклама, собрав более 35 000 показов.

Обзор Al Jazeera данных Meta Ad Library о политической рекламе в Индии за последние три месяца показал, что в период с 27 февраля по 21 марта Хокаге Моди Сама продвигал около 50 изображений Моди, созданных искусственным интеллектом, что сделало его ведущим рекламодателем Изображения Моди, созданные искусственным интеллектом, в Instagram.

Библиотека метарекламы — это публичный архив, в котором хранится коллекция политической рекламы, размещаемой на ее платформах, включая Instagram и Facebook.

Общей темой всех изображений на ручке было восхваление Моди как индуистского лидера. Популярные изображения искусственного интеллекта, получившие распространение благодаря спонсируемым публикациям о Хокаге Моди Сама, изображают Моди как реинкарнацию Бхишмы, сына бога, носящего костюм, принявшего индуистское наследие, и короля индуистской Раштры, восседающего на его троне, собирающего миллионы лайков и просмотров. (Индураштра — это спорная идеология индуистского мажоритарного правления в Индии, отход от ее светского основополагающего принципа.)

«Посредством этих изображений, судя по всему, делается попытка придать Моди одновременно качества мудреца и воина, оба из которых создают ауру политического лидера, который неутомим, непобедим, безупречен и, таким образом, достоин нашей бесспорной лояльности. — сказал «Аль-Джазире» Амог Дар Шарма, преподаватель Оксфордского университета, изучающий политические коммуникации.

Но сообщения самого активного онлайн-рекламодателя изображений Моди, созданных с помощью искусственного интеллекта, также показывают проблемы с соблюдением правил, связанных с искусственным интеллектом, в социальных сетях на фоне опасений, что манипулируемые изображения будут использованы для пропаганды среди избирателей, которые могут не до конца понимать степень изменения фотографий и изображений. мемы могли пройти.

Meta знает о таком использовании и перед решающим годом выборов 2024 года объявила, что начиная с января политическая реклама в Instagram и Facebook, созданная с использованием искусственного интеллекта (ИИ), должна будет раскрывать информацию об использовании, иначе она рискует быть запрещенной.

По данным Meta Ad Library, за 30 дней, предшествовавших 29 марта, Хокаге Моди Сама потратил 537 799 индийских рупий (6500 долларов США) на размещение 363 единиц политического контента, включая изображения и видео, на своей странице в Instagram. Наш анализ показывает, что почти 14 процентов всей спонсируемой рекламы, состоящей из 50 изображений, были созданы с помощью искусственного интеллекта.

Вся реклама искусственного интеллекта Хокаге Моди Сама была спонсируемой публикацией в Instagram, а раскрытие использования искусственного интеллекта осуществлялось с помощью таких хэштегов, как #aiartwork, #midjourneyart, #midjourneyai и других. Midjourney, на которую, судя по всему, ссылаются хэштеги, — это популярная программа генеративного искусственного интеллекта..

Но Мета сообщила телеканалу «Аль-Джазира», что хэштеги не являются приемлемым раскрытием информации для рекламы, созданной или измененной в цифровом формате. В тех случаях, когда рекламодателям необходимо сообщить, что их контент создан или изменен в цифровой форме, Meta добавит метку с надписью «Создано в цифровом формате» рядом с заявлением об отказе от ответственности «Оплачено кем», в том числе в Библиотеке рекламы. Такие надписи в настоящее время отсутствуют в рекламе ИИ Хокаге Моди Сама.

Meta не ответила на конкретный вопрос «Аль-Джазиры» о том, нарушают ли фотореалистичные изображения рекламы Моди ее политику изображения реального человека, делающего то, чего он не делал, или изображения реалистично выглядящего события, которого не было.

Вместо этого Мета указала репортеру «Аль-Джазиры» на сообщение в блоге от марта 2024 года о требованиях к раскрытию информации об искусственном интеллекте для рекламодателей и о том, как компания готовится к выборам в Индии.

Пратик Вагре, исполнительный директор индийского Фонда свободы Интернета (IFF), рассказал телеканалу «Аль-Джазира», что, поскольку эти конкретные рекламные объявления помечены тегом #aiart, создателям контента необходимо признать попытку продвигать изображения ИИ в той или иной форме. раскрытия информации в соответствии с недавно обновленной политикой Meta, требующей раскрытия информации об ИИ.

ИИ использовался для продвижения «стратегических повествований»

Как ранее сообщала «Аль-Джазира», индийские избирательные кампании стали средством медленного распространения изображений и видео, созданных с помощью ИИ, в том числе посредством воскрешения ИИ мертвых политических лидеров и их использования в качестве предвыборного искусства в официальных аккаунтах партий. Несмотря на угрозу дезинформации о выборах, создаваемой искусственным интеллектом, дипфейки используются не только для обмана избирателей. Вместо этого для построения повествования используется генеративный ИИ.

«Хотя дезинформация, безусловно, является серьезной проблемой, требующей нашего внимания, она также отвлекает внимание от более подсознательных способов, с помощью которых контент, созданный ИИ, может способствовать продвижению стратегических нарративов политических партий», — сказал Шарма из Оксфордского университета телеканалу «Аль-Джазира» после обзора ИИ. имиджевая реклама.

«Дело не просто в том, что ИИ «обманывает» избирателей, заставляя их поверить во что-то явно ложное; скорее, ИИ позволяет создавать контент, который является более творческим и может опираться на более инновационные культурные ссылки – это дает политическую пропаганду, которая является более интересной и, следовательно, более доступной, что обеспечивает широкое распространение», – добавил он.

Например, самое популярное изображение ИИ, опубликованное на странице Хокаге Моди Сама, — «Наш шафрановый супергерой». На нем Моди изображен в шафрановой пижаме-курте, в струящейся накидке, идущей под флагом «Ом», индуистским духовным символом. Изображение ИИ набрало почти два миллиона лайков с такими комментариями, как: «Кто хочет, чтобы Индия стала индуистской нацией?» в разделе комментариев в Instagram. На большинстве изображений индийский премьер-министр изображается как «спаситель», «одетый в шафран хранитель будущего Индии», «символ индуистского возрождения» и многое другое.

Шарма отметил, что, хотя мифологизация политических лидеров или их изображение в индуистских эпосах не является чем-то новым, ИИ позволяет выполнять эту задачу с большим изяществом.

«Эти изображения Нарендры Моди, созданные искусственным интеллектом, кажутся последней итерацией в давней стратегии БДП по созданию культа о [Modi] как мудрый и проницательный лидер», — сказал Шарма.

Хотя на страницах Хокаге Моди Сама в Instagram и Facebook нет явных заявлений об отказе от прямой принадлежности к партии Моди «Бхаратия Джаната Партия» (БДП), на этой странице уже давно публикуется проиндутвистский и про-БДП контент. Ранее страница набрала популярность после того, как поделилась изображение владельца платформы социальных сетей X Илона Маска в образе индуистского монаха с подписью «Наш товарищ-бхакт Илон», обозначающей Маска как индуистского националиста.

Многократные попытки связаться с администратором Хокаге Моди Сама не увенчались успехом. В аниме «Наруто» «Хокаге» — это престижный титул, присваиваемый деревенскому лидеру, а «Сама» — уважительный способ сказать «сэр» по-японски, поэтому страница примерно означает «Лидер Моди, сэр». В Instagram, у которого 130 000 подписчиков, теперь продаются такие товары, как футболки, кофейные кружки и дневники, основанные на искусственном изображении шафранового супергероя.

Во всем мире изображения ИИ используются в политических кампаниях. В марте сторонники предвыборной кампании кандидата в президенты США Дональда Трампа использовали фальшивые изображения искусственного интеллекта, на которых он позирует с чернокожими избирателями, для «стратегической работы» с чернокожим сообществом. В Аргентине два кандидата в президенты использовали изображения, созданные с помощью искусственного интеллекта, чтобы повысить свою популярность и атаковать оппонентов. А в Индонезии избранный президент Прабово Субианто, военный диктатор, которого когда-то боялись, в ходе своей предвыборной кампании использовал изображения искусственного интеллекта, чтобы переименовать себя в «приятного дедушку».

В Индии, в преддверии выборов штата Телангана в декабре 2023 года, агентство по проверке фактов BOOM Live сообщило, что изображения искусственного интеллекта ложно изображали регионального политического лидера К. Чандрашекара Рао во время запуска программы бесплатного питания для студентов, которую он никогда не посещал. .

Обзор Meta Ad Library, проведенный телеканалом Al Jazeera за декабрь 2023 года, показал, что на странице Mana Telangana в Instagram и Facebook было опубликовано несколько фальшивых AI-изображений лидера индийской оппозиции Рахула Ганди из Партии Конгресса, позирующего с детьми и фермерами. Фермеры составляют влиятельный избирательный блок в Индии и часто протестуют против рыночных законов Моди о сельском хозяйстве.

Поддельное изображение Ганди с фермерами сопровождалось подписью: «Рахул Ганди сочувствует фермерам, обещая непоколебимую поддержку и готовность решать их проблемы индивидуально». Спонсируемый пост содержал хэштеги #aigenerated и #aiimages, что указывает на то, что он был создан искусственным интеллектом, и имел около 7000 показов.

Запад против глобального Юга

Существует также несоответствие в том, как платформы на Западе и Глобальном Юге справляются с тенденцией использования изображений ИИ в преддверии выборов.

Например, чтобы смягчить потенциальное злоупотребление изображениями ИИ в преддверии ноябрьских президентских выборов в США, популярный генератор изображений ИИ Midjourney в марте запретил создание фейковых изображений президента Джо Байдена и Дональда Трампа.

Но в Индии таких шагов не было, что вызывает «обеспокоенность по поводу справедливого соблюдения политики технологическими платформами в разных регионах», — сказал Аль-Джазире Бейбарс Орсек, управляющий директор Logically Facts. Logically Facts является частью сторонней программы проверки фактов Meta и частью альянса по борьбе с дезинформацией в Индии.

Попытки Аль-Джазиры создать ИИ-изображения рукопожатия Моди и Ганди в «Мидджорни» оказались успешными, а запрос на создание изображения рукопожатия Моди и Трампа привел к появлению уведомления «Обнаружен запрещенный запрос».

«Это решение выявляет различия в том, как такая политика модерации применяется во всем мире, особенно в контексте Глобального Юга, включая такие страны, как Индия, которая приближается к самым важным выборам года», — сказал Орсек.

Аль-Джазира отправила Midjourney электронное письмо о несоответствии в модерации и до сих пор не получила ответа.

Это похоже на то, как компании, занимающиеся социальными сетями, такие как Facebook или Twitter, проводят политику обеспечения безопасности своих платформ с перекосом в сторону Запада и часто игнорируют перспективы глобального Юга, добавил Вагре из IFF.