Лаборатория доверия была основана командой хорошо зарекомендовавших себя выпускников Big Tech, которые объединились в 2021 году с миссией: сделать модерацию онлайн-контента более прозрачной, подотчетной и заслуживающей доверия. Год спустя компания объявила о «стратегическом партнерстве» с фирмой венчурного капитала ЦРУ.
Основная идея Trust Lab проста: глобальные интернет-платформы, такие как Facebook и YouTube, настолько тщательно и последовательно проваливают свои усилия по модерации контента, что решения о том, какую речь следует удалять, должны быть переданы полностью независимым внешним фирмам — таким фирмам, как Trust Lab. В сообщении в блоге от июня 2021 года соучредитель Trust Lab Том Сигел назвал модерацию контента «большой проблемой, которую большие технологии не могут решить». Утверждение о том, что Trust Lab может решить неразрешимое, кажется, привлекло внимание In-Q-Tel, фирмы венчурного капитала, которой поручено защищать технологии для решения самых сложных задач ЦРУ, а не глобального Интернета.
«Я с подозрением отношусь к стартапам, которые преподносят статус-кво как инновацию».
В тихом объявлении о партнерстве от 29 октября мало подробностей, в нем говорится, что Trust Lab и In-Q-Tel, которые инвестируют и сотрудничают с фирмами, которые, по их мнению, будут способствовать выполнению миссии ЦРУ, будут работать над «долгосрочным проектом». это поможет выявить вредоносный контент и участников для защиты Интернета». Ключевые термины, такие как «вредный» и «защитный», не объяснены, но в пресс-релизе говорится, что компания будет работать над «выявлением многих типов вредоносного онлайн-контента, включая токсичность и дезинформацию».
Хотя заявленная миссия Trust Lab сочувствующая и основанная на реальности — модерация онлайн-контента действительно нарушена — трудно представить, как согласование стартапа с ЦРУ совместимо с целью Сигела по обеспечению большей прозрачности и целостности управления интернетом. Что значит, например, инкубировать технологию противодействия дезинформации для агентства с обширной историей распространения дезинформации? Размещение компании в технологическом портфеле ЦРУ также вызывает вопросы о взгляде Trust Lab на то, кто или что может быть «вредным» в Интернете, туманная концепция, которая, несомненно, будет означать что-то совсем другое для разведывательного сообщества США, чем где-либо еще в Интернете. -использующий мир.
Независимо от того, насколько провокационной может быть сделка с In-Q-Tel, многое из того, что торгует Trust Lab, похоже на то, что Facebook и YouTube уже пытаются сделать своими силами: развертывание сочетания человеческих и неуказанных возможностей «машинного обучения» для обнаруживать и противодействовать всему, что определено как «вредный» контент.
«Я с подозрением отношусь к стартапам, которые преподносят статус-кво как инновацию», — написал Анхель Диас, профессор права в Университете Южной Калифорнии и специалист по модерации контента, в сообщении The Intercept. «Взгляд Trust Lab на модерацию контента мало чем отличается от взглядов технологических гигантов. Они оба хотят расширить использование автоматизации, улучшить отчеты о прозрачности и расширить партнерские отношения с правительством».
Как именно Trust Lab будет удовлетворять потребности ЦРУ, пока неясно. Ни In-Q-Tel, ни компания не ответили на многочисленные запросы о комментариях. Как говорится в октябрьском пресс-релизе, они не объяснили, какие «злоумышленники» Trust Lab может помочь разведывательному сообществу «предотвратить» распространение онлайн-контента.
Хотя подробности о том, что именно продает Trust Lab или как работает ее программный продукт, скудны, компания, похоже, занимается аналитикой социальных сетей, алгоритмически отслеживая платформы социальных сетей от имени клиентов и предупреждая их о распространении модных словечек. . В профиле Trust Lab в Bloomberg Сигел, который ранее руководил политикой модерации контента в Google, предположил, что федеральное агентство по безопасности в Интернете было бы предпочтительнее, чем нынешний подход Big Tech к модерации, который состоит в основном из непрозрачных алгоритмов и тысяч аутсорсинговых подрядчиков. посты и таймлайны. В своем сообщении в блоге Сигел призывает к усилению демократического надзора за онлайн-контентом: «Правительства в свободном мире уклонились от своих обязанностей по обеспечению безопасности своих граждан в Интернете».
Даже если Сигел видение чего-то вроде Агентства по охране окружающей среды для Интернета остается несбыточной мечтой, темное партнерство Trust Lab с In-Q-Tel предполагает шаг к усилению государственного надзора за онлайн-выступлением, хотя и совсем не в демократическом духе, изложенном в его сообщении в блоге. . «Наша технологическая платформа позволит партнерам IQT видеть на единой панели вредоносный контент, который может стать вирусным и получить известность во всем мире», — цитируется Сигел в октябрьском пресс-релизе, в котором отсутствует какая-либо информация о финансовых условиях партнерство.
В отличие от типичных фирм венчурного капитала, «партнерами» In-Q-Tel являются ЦРУ и более широкое разведывательное сообщество США — организации, которые исторически не были известны тем, что олицетворяли корпоративные принципы Trust Lab в отношении прозрачности, демократизации и правдивости. Хотя In-Q-Tel структурирована как независимая некоммерческая организация 501(c)3, ее единственная четкая миссия состоит в том, чтобы продвигать интересы и расширять возможности ЦРУ и других шпионских агентств.
Бывший директор ЦРУ Джордж Тенет, возглавивший создание In-Q-Tel в 1999 году, описал прямые отношения ЦРУ с In-Q-Tel простыми словами: «ЦРУ выявляет неотложные проблемы, а In-Q-Tel предоставляет технологии для их решения». обратиться к ним». В официальной истории In-Q-Tel, опубликованной на веб-сайте ЦРУ, говорится: «Миссия In-Q-Tel состоит в том, чтобы способствовать развитию новых и появляющихся информационных технологий и проводить исследования и разработки (НИОКР), которые дают решения для некоторых из наиболее трудные ИТ-задачи, стоящие перед ЦРУ».
Сигель ранее писал, что политика в отношении речи в Интернете должна быть «глобальным приоритетом», но партнерство In-Q-Tel предполагает некоторую верность западным приоритетам, сказал Диас — верность, которая может не учитывать, как эта политика модерации влияет на миллиарды людей. люди в незападном мире.
«Партнерство с западными правительствами увековечивает расистское представление о том, какие сообщества представляют угрозу, а какие просто пользуются своей свободой слова», — сказал Диас. «Заявление о миссии Trust Lab, которое призвано провести различие между «правительствами свободного мира» и «угнетателями», является тревожным предварительным просмотром того, что мы можем ожидать. Что происходит, когда «свободное» правительство рассматривает обсуждение анти-черного расизма как иностранную дезинформацию или когда активистов социальной справедливости называют «насильственными экстремистами по расовым мотивам»?»
источник: theintercept.com
