Искусственный интеллект и проклятие богов-машин

Где-то в 2008 году у меня был разговор с агентом ФБР. Обычно я не хотел бы этого делать, но в данном случае это был член семьи — мой сводный брат, который старше меня на четырнадцать лет. Мы не выросли вместе и никогда особенно не любили друг друга, и мы с его женой разделяем сильную взаимную неприязнь, но в то время я старался больше присутствовать в жизни их двух маленьких дочерей, моих племянниц. .

Мы сидели в гостиной их дома в Сими-Вэлли, куда копы переезжают, чтобы не жить в Лос-Анджелесе с реальными людьми. На заднем плане бубнил утомительный лепет телевизионного футбольного матча. Продолжая давно забытую нить разговора, мы каким-то образом перешли к теме воровства и морали. Мой брат сказал мне — и это точная цитата —Вы один из тех людей, которые думают, что воровать в магазине для мам и папочек неправильно, но можно красть в Wal-Mart, потому что это большая корпорация?

Почувствовав, что мне пора сиять, я ответил следующее: для того, чтобы я поверил, что взять что-то у Wal-Mart, не заплатив за это, было бы «воровством», я должен сначала поверить, что Wal-Mart способен владеть что-нибудь. Я не.

Он сразу смутился. Я продолжил.

На мой взгляд, у вас должно быть сознание и воля для того, чтобы чем-то владеть. У Wal-Mart нет ни того, ни другого; это конструкция. У него могут быть магазины и работники, менеджеры и члены совета директоров, но по сути это юридическая фикция. синтетическая сущность. На самом деле Wal-Mart существует только на бумаге, и только благодаря общественному согласию — и страху перед правоохранительными органами — можно сказать, что он вообще имеет какие-либо права на свои склады безвкусной мебели и потогонной одежды.

Часть «синтетической сущности» действительно его зацепила; он завис как старый компьютер. Я почти слышал, как скрежещут шестеренки его разума, когда он пытался осмыслить идею, совершенно чуждую его мировоззрению.

Благодаря некоторым постановлениям старого доброго Верховного суда, эти синтетические сущности обладают всеми «правами» отдельных граждан, но не имеют никаких обязательств… вроде смертности. В Wal-Mart нет ни одного человека, которого нельзя было бы заменить, от генерального директора до швейцаров. Как и все работники гигантских корпораций, они, по сути, представляют собой программное обеспечение, обслуживающее нужды более или менее бессмертной конструкции.

Вы, наверное, поняли, к чему я клоню: корпорации — это форма искусственного интеллекта. Я ненавижу говорить вам об этом, но наше общество было завоевано ИИ несколько поколений назад.

я звоню им боги машин; «боги», потому что они фундаментально бестелесны — они прежде всего концептуальны, как, скажем, Гермес. «Машины», потому что у них нет реального воля или сознание-что у них есть программирование; они берут предметы и превращают их в деньги, что, по сути, то же самое, что говорить, что они превращают предметы в силу. Сами объекты создаются путем преобразования жизнь— деревья, домашний скот, пейзажи, потогонные рабочие — в мертвый.

Забавное старомодное оккультное слово для такой сущности — эгрегор.

Взятие вещей из магазина для мам и пап напрямую навредит средствам к существованию реальных людей, у которых есть воля и сознание. Это просто не относится к Wal-Mart, Target или Dollar General. Эти компании получают миллиарды долларов прибыли, большая часть которой идет в карманы горстки руководителей корпораций, которые уже богаты. Если бы я мог делать это безнаказанно, я бы брал абсолютно все, что я когда-либо хотел или в чем нуждался, в Wal-Mart или любом другом сетевом магазине, не заплатив ни за что.

Вы знаете, что-то вроде того, что европейские захватчики сделали с Черепашьим островом.

То, что я воздерживаюсь от магазинных краж, — это вовсе не моральная позиция, а практическая позиция, основанная на страхе перед законом. Кроме того, мои финансы достаточно прочны, чтобы я не нуждаться брать вещи у машинных богов без оплаты; в отличие от многих людей в этой стране, я могу позволить себе самое необходимое. У меня нет веских причин рисковать делом о краже. Но если бы моя ситуация изменилась, я, конечно, не чувствовал бы никаких угрызений совести из-за того, что помог себе в дерьме в Wal-Mart.

Итак, попытка моего брата заманить меня в ловушку своей упрощенной, псевдохристианской моральной головоломкой полностью провалилась. После нескольких минут изнурения коповского разума в попытках найти способ опровергнуть мою аргументацию, он, наконец, остановился на следующем: Итак, где происходит переход между магазином для мам и пап и Wal-Mart?

Он действительно думал, что завел меня с этим, но это явно абсурд; как только появляется возможность купить акции компании на фондовом рынке, мы довольно хорошо входим на территорию машинного бога. Хотя технически они оба являются корпорациями, мой местный магазинчик на углу от Wal-Mart отделяет огромная пропасть. Это как сравнивать шарик с Юпитером.

***

Я бы сказал, что государство с его склонностью не только к самовоспроизведению, но и к производству людей, нуждающихся в государстве, также является формой искусственного интеллекта.

***

Со времен промышленной революции или, по крайней мере, с момента появления рекламных и PR-компаний, каждый раз, когда появляется какая-то новая модная технология, всегда находятся Истинно Верующие — люди, которые не могут дождаться, чтобы сказать вам, насколько лучше станет жизнь теперь. Эта басня по-прежнему популярна после двух столетий разоблачения ее лжи — наиболее значительными достижениями большинства новых технологий являются: уничтожение большей части планеты, обеднение рабочего класса и консолидация богатства и контроля.

Если вы были связаны с последними тлеющими остатками контркультуры в середине 90-х, то вы, возможно, помните, как все были убеждены, что Интернет должен освободить демократию или что-то в этом роде. Любой, кто изучал Маркса в течение двух секунд, должен был легко предсказать, что возможность покупать все в Интернете приведет к тому, что многие мамы и папы разорятся. Но могли ли они предсказать QAnon? Хм…

Некоторые из первых любителей кибертехнологий, такие как Дуглас Рашкофф, раскаялись в своей глупой технофилии… теперь, когда уже слишком поздно. Кто знает, в каком мире мы могли бы сейчас жить, если бы либералы и левые сразу же признали Интернет силой зла? На самом деле, неважно; они, вероятно, не могли остановить это. К тому моменту зверь уже приближался, хотели мы этого или нет.

Однако я не считаю, что наша техно-антиутопия была исторически неизбежный.

Еще в мае автор Томас Кнапп в статье для Counterpunch сделал заявление, которое, как мне кажется, стоит подробно процитировать, прежде чем я разделю его мечом Ву Тан:

“Мы мчались к «сингулярности» по крайней мере 3,3 миллиона лет, с тех пор, как один из наших предков-гоминидов (вероятно, австралопитек или кениантроп) начал использовать инструменты для облегчения своей работы.

На протяжении этих миллионов лет мы постоянно совершенствовали наши инструменты… и наши инструменты постоянно улучшали нас. На самом деле мы уже не те животные, которыми были до появления автомобиля, не говоря уже о колесе. Мы можем делать то, о чем наши бабушки и дедушки и эти гоминины и не мечтали.

Как только мы начали разрабатывать инструменты, которые могли бы щелкать орехи лучше нас, говорить на большем расстоянии, чем мы, путешествовать быстрее нас и т. д., было неизбежно, что в конечном итоге мы разработаем инструменты, которые будут думать лучше нас».

С таким же уважением, как и к любому, кто только что оскорбил весь их вид, я должен сказать, что это претендент на золотую медаль за самое глупое дерьмо, которое я слышал за весь год. Я ценю здоровый цинизм, но, черт возьми; такая ерунда про первородный грех меня раздражает.

Во-первых, индустриальная основа, которая сделала возможными компьютерные технологии, существует всего пару столетий; идите вперед и потратьте секунду, чтобы загрузить свой калькулятор, затем разделите 200 на 3,3 миллиона и посмотрите, какое отношение вы получите. Я бы вряд ли назвал скорость этого межвидового путешествия «стремительной». Мне кажется, что сто лет быть здоровым, а потом заболеть раком всего тела за доли секунды, прежде чем упасть замертво.

Во-вторых, в ИИ, Интернете, компьютерах, промышленности и даже цивилизации никогда не было ничего «неизбежного». Цивилизация существует всего около 5000 лет (разделите это число на 3,3 миллиона; вы получите большее число, но ненамного), и, как исследовал Джеймс С. Скотт в Против шерсти, самые ранние иерархические государства были чрезвычайно хрупкими по целому ряду причин. Не было никакой гарантии, что этот способ организации общества просуществует так долго… и, вероятно, не продлится долго.

Промышленная революция не была неизбежным результатом того, что люди стали «пользователями инструментов». много других видов изготавливают и используют орудия труда — это был специфический продукт конкретной культуры в конкретном регионе при определенных обстоятельствах. Если космический преступник Христофор Колумб встретил праведный конец, утонув в море, не долетев до Черепашьего острова, или, как в рассказе, который я сейчас пишу, был убит коалицией путешествующих во времени педиков, то вполне вероятно, что промышленная революция никогда бы не случилось. Это означает, что никакого капитализма, никаких корпораций, пожирающих планеты, и никакого гребаного ИИ.

В-третьих, пассаж Кнаппа на самом деле является просто переосмыслением европейского мифа «Просвещения» о прогрессе™. Идея о том, что фабрики и Скайнет являются частью «естественной эволюции» человеческого вида, не только нелепа, но и является тайной формой диетического превосходства белой расы — если промышленная революция была естественной частью «нашей» эволюции, а европейцы сделали это первыми, тогда очевидно, что они должны быть более «продвинутыми», чем другие люди. Ergo, проявить какую-то судьбу и т. д.

Совершить то, что на самом деле является огромной ошибкой, а затем заявить, что это «естественно» для вида, — это феноменальный уровень гордыни… гордыни, которая лежит в основе социальной конструкции белизны. Я терпел эту крипто-расистскую чушь в той или иной форме всю свою жизнь, и я устал от нее. Я отношусь к мифу о «прогрессе» так же, как к теории Берингова пролива и Белому Иисусу — я продолжаю надеяться, что он уйдет на пенсию в Разоблаченной Земле, но этого никогда не происходит. Поскольку мы не можем избавиться от этого, мой единственный вариант духовного благополучия — это безжалостно клоунада.

В последние несколько месяцев многие люди скрежетали зубами об опасностях ИИ. Большинство из этих людей последние двадцать лет с энтузиазмом передавали все свои две вещи, но неважно, что.

я не вижу, что есть новый опасность от ИИ, которая еще не присуща нашей кибернетической антиутопии. Банальная и бездушная поп-культура? Уже получил это. Люди полагаются на компьютеры, чтобы думать за них? Был обычным годами. Машины отнимают у людей рабочие места или убивают их? Проверять. Планетарное вымирание? Хорошо в пути. «Сингулярность» — это всего лишь светская переупаковка «Судного дня». Это все шумиха.

Тем не менее, возможно ли сопротивление?

Я считаю, что сопротивление всегда возможно… но только если вы понимаете угрозу. На протяжении многих лет я изучал многие социальные движения, особенно наиболее радикальные, — за права рабочих, религиозные восстания, анархистские восстания, «Власть черных», «Суверенитет коренных народов» и т. д. Одна из общих черт всех этих движений заключается в том, что они выросли из мир, в котором еще существовала такая вещь, как сообщества.

Многие из «Черных пантер» объединились с соседями, семьи которых они знали в течение двух или трех поколений, а иногда и дольше. Когда вы в последний раз были в районе, где все так долго знали друг друга? Джентрификация — адский наркотик.

Евангелия марксизма и анархизма распространялись в кафе. В настоящее время я готов лить слезы, когда вижу незнакомых людей, хотя бы завязывающих разговор друг с другом в кафе. Большинство людей предпочитают взаимодействовать с экраном.

Наше нынешнее состояние гиперотчуждения и тотального кибернетического посредничества фактически разрушило наши общественные отношения. Никто, как Малкольм Икс или Фред Хэмптон, не смог бы выйти из мира смартфонов и zuckerbook. Технологии — это проблема, и так было уже давно… но люди ведут себя так, будто доступ к Твиттеру без цензуры — это ключ к функционирующей демократии.

Что надо сделать?

Я не знаю. Но у меня есть лишняя кувалда, если хочешь поиграть со мной в луддит.