Эссе

Свобода и Паттерны систем.

#свобода_воли #Слотердайк #Флюссер #алгоритмическое_управление #цифровой_паноптикум #ИИ-терапия #трансгрессия #информационный_пузырь #паттерны_поведения.

Макс Фрай — «Лабиринт Мёнина»

Чудеса не приносят ни счастья, ни комфорта; невероятные события не освобождают от пут повседневности, а всего лишь перекручивают эти путы на иной манер, перед тем как затянуть их потуже… Невыносимо туго, по правде говоря!

Свобода (воли и выбора)

Свобода воли — это способность самостоятельно выбирать свои действия и решения. Многие философы и ученые задаются вопросом, существует ли она вообще в принципе. Некоторые считают, что наша жизнь предопределена генетическими факторами, социальным окружением и воспитанием. Другие утверждают, что мы обладаем способностью выбора, хотя и ограниченной рамками нашего опыта и обстоятельств.

Но как на самом деле?

В философии сознания существует радикальное направление — либертарианство. Оно делает человека «перводвигателем» собственной жизни: его решения не выводятся напрямую ни из давления среды, ни из нейрохимии. Перед человеком в момент выбора действительно открыты несколько альтернативных вариантов будущего, и источник решения коренится в его истинном, автономном «Я».

Однако современная наука безжалостно превращает это «Я» в неуловимый фантом.

Аргумент против свободы воли прост: все мы состоим из атомов, подчиняющихся законам физики. Квантовая механика прогнозирует будущее не с определенностью, а с вероятностью, но сами эти вероятности абсолютно фиксируются актуальным состоянием Вселенной. Не остается места для человеческого выбора.

Sean Carroll — «The Big Picture. On the origins of Life, Meaning, and the Universe Itself.» /
Шон Кэрролл — книга «Вселенная. Происхождение жизни, смысл нашего существования и огромный космос»

Стоит нам увидеть, как ментальные состояния могут давать физические эффекты, как возникает вопрос: “Кто отвечает за эти ментальные состояния?” Совершаю ли я выбор сам, то есть моё эмерджентное “Я”? Или я просто марионетка, и мои движения обусловлены взаимодействиями моих атомов, подчиняющихся законам физики? В конце концов, есть ли у меня свобода воли? <...>

Аргумент против свободы воли достаточно прост: все мы состоим из атомов, эти атомы подчиняются закономерностям, которые мы именуем законами физики.

Эти законы позволяют полностью описать эволюцию системы, причем на атомном уровне это описание совершенно не зависит от каких-либо внешних воздействий. Если информация сохраняется с течением времени, то всё будущее Вселенной уже написано, пусть мы его пока не и не знаем. Квантовая механика прогнозирует будущее не с определенностью, а с той или иной вероятностью,но сами по себе эти вероятности абсолютно фиксируются актуальным состоянием Вселенной. <...> Не остается места человеческого выбора, а значит, не существует и свободы воли. Мы - просто материальные объекты, подчиняющиеся законам природы.

Эксперименты нейробиолога Бенджамина Либета доказали: мозг инициирует действие и фиксирует потенциал готовности до того, как человек осознает само намерение его совершить. Наш мозг — сложнейший биокомпьютер. Что вы едите на завтрак — яичницу или овсянку? Это решение предопределено бюджетом, воспитанием, микробиомом кишечника и вчерашней рекламой йогурта, которую вы бессознательно впитали.

Даже выбор профессии или бунт против системы — это лишь реакция на систему, просчитанный автопилот. Принятие этого факта — не трагедия. Это освобождение от груза ответственности за неподконтрольные процессы и первая попытка понять механизмы работы своего сознания.

Паттерны систем

Если наше сознание — это автопилот, то современные технологии стали внешней системой его навигации.

Немецкий философ Петер Слотердайк разработал оригинальную теорию сфер. Он утверждал, что человек органически не способен жить в голом, холодном хаосе реальности. Мы всегда создаем вокруг себя защитный, комфортный микроклимат — «пузырь» или «сферу». Общество же в его понимании — это не монолит, а «пена» из миллиардов таких взаимопроникающих, но изолированных пузырьков.

В XXI веке роль этих защитных пространств монополизировали алгоритмы. Соцсети, поисковики и стриминги автоматически адаптируют мир под наши вкусы. Они выстраивают вокруг нас индивидуальный кокон предпочтений. Но у этого комфорта пугающая цена: человек перестает соприкасаться с инаковостью, у него атрофируется терпимость к чужому мнению и готовность к компромиссу.

Если Слотердайк диагностировал наше общество как «пену», то Вилем Флюссер вскрыл сам механизм, который эту пену производит. Этот механизм он назвал «Аппаратами».

Аппарат (будь то социальная сеть или поисковый алгоритм) — это система, чья программа предписывает нам, как воспринимать реальность. Они работают как невидимые архитекторы. Флюссеровские аппараты создают «симулякры иммунитета» — идеально гладкие изнутри цифровые капсулы, маскирующие наше фундаментальное одиночество.

Как предупреждал Флюссер, аппараты — это игрушки, которые незаметно делают из людей своих послушных «функционеров». И эти функционеры покоятся в уютных ментальных тюрьмах, воспроизводя их стены каждым своим кликом.

Никита Сазонов и Анке Хенниг - книга «Синтез современности. Руины Гахн и постдициплинарность»

Новое время началось с открытия человеком способности разлагать мир на символические частицы - числа и исчисления с ними - таким образом овладевать ими. В поисках свободы человека от природной ограниченности создается техника, позволяющая обойти законы природы, отсюда безудержная вера в технический прогресс. Но что происходит, если когда все вещи оказываются доступны? Становится ли человек свободен? Нет. Поскольку законы природы оказываются лишь проекцией человеческого мышления, заключает Флюссер. Обнаруженный корреляционизм он считает порочной практикой, от которой необходимо избавиться.

Возникает порочный круг: алгоритм лишен возможности узнать что-то по-настоящему новое за пределами своих аксиом. Он лишь бесконечно оптимизирует данные внутри заданной системы координат, обрекая цивилизацию на ментальный «тепловой удар».

Nudge theory

Современный мир все меньше похож на пространство свободного выбора и все больше — на тонко настроенный лабиринт. Теория подталкивания (Nudge theory) давно вышла из университетских стен и стала главным оружием корпораций и государств.

Самые эффективные «наджи» (подталкивания) невидимы: статус согласия на обработку данных по умолчанию, автоматический подбор товаров по «акции», умная лента новостей. Мы плывем по течению, уверенные, что сами выбираем курс, пока алгоритмы создают для нас тесный информационный пузырь. Персонализация, призванная облегчить нам жизнь, на самом деле обедняет ее, лишая нас шанса столкнуться с неожиданным и сложным.

Макс Фрай — «Путешествие в Кеттари»

Недооценивать врага - непростительная оплошность, но недооценивать союзника - еще опаснее.

Эта невидимая архитектура контроля стала очевидной в 2013 году, когда Эдвард Сноуден обнародовал программу слежки PRISM. Он показал пассивную, всевидящую силу цифрового паноптикума: миф о приватности умер, аппарат сначала должен всё видеть.

Следующим логическим шагом стала активная, созидательная инженерия человеческого поведения. Компания Cambridge Analytica (CA) и ее канадский двойник AggregateIQ доказали: управляя индивидуальным выбором, можно менять политические ландшафты целых стран.

Cambridge Analytica (CA)

Этим шагом стала Cambridge Analytica (CA) - британская частная компания, которая использовала технологии глубинного анализа данных. Если Сноуден выявил пассивную всевидящую силу аппарата, то CA продемонстрировала его активную, созидательную игру. Используя украденные данные 87 миллионов пользователей, компания научилась строить цифровые портреты, угадывать черты характера и таргетировать микро-воздействие…

Кейс вмешательства CA	Механика воздействия	Результат
Тринидад и Тобаго	Таргетированная реклама «Do so» («Игнорируй выборы») транслировалась исключительно темнокожему населению.	Темнокожие избиратели не пришли на участки; победила консервативная индийская партия.
Выборы в США (2016)	Психографическое профилирование на основе украденных данных 87 млн пользователей Facebook. (принадлежит Meta, которая признана экстремистской организацией и запрещена в РФ)	Точечное воздействие на колеблющихся избирателей; победа Дональда Трампа
Референдум о Brexit	Микротаргетинг страхов и триггеров уязвимых групп населения Великобритании.	Выход Великобритании из Евросоюза.

В общей сложности Cambridge Analytica успела вмешаться в проведение более чем 200 выборов по всему миру (от Кении до Чехии). Это практическая реализация флюссеровских аппаратов: они программируют саму политическую материю слотердайковской «пены».

Трек: Bob Moses - Broken Belief

We live in the era of purpose
We live in the era of youth
When the wise man's warning is worthless
I'm just a poor boy begging for truth

So baby, you say that we're free
Oh come on
You've taken what you wanted from me
You've kept me down on my knees for so long
A victim of your broken belief

Now therе's a crack in the surface
Something dark is seeping through
Wе live in the land of the many
We live in the grip of the few
There's a poor girl crying for justice
There's a rich man playing the fool
All the wise men longing for purpose
And they're all just looking to you...

Добровольная прозрачность: ИИ-психология

Пока философы спорят о свободе воли, миллионы людей по всему миру добровольно совершили тектонический сдвиг: они пришли к искусственному интеллекту за психологической помощью.

Исследования Harvard Business Review и анализ диалогов от The Washington Post подтверждают: терапия и эмоциональная поддержка стали одним из главных сценариев использования ИИ. Раньше алгоритмы собирали наши лайки и историю покупок. Теперь они получили доступ к святая святых — к нашим страхам, детским травмам, триггерам одиночества и механизмам принятия решений.

И здесь кроется парадокс, который не снился даже Слотердайку: мы сами, добровольно и за свои же деньги (по подписке), финансируем строительство своей цифровой тюрьмы.

У психологов-людей данные разрознены, они защищены врачебной тайной. У ИИ все диалоги хранятся на серверах одной корпорации. В мире ИИ врачебной тайны нет — есть пользовательское соглашение, которое можно изменить задним числом. Тысячи психологов для сбора компромата — это логистический кошмар. Один сервер — это элегантное решение.

Это классическая «трагедия общих ресурсов» в цифровом измерении. Мы понимаем риски, но экзистенциальная поддержка нужна здесь и сейчас, а абстрактная угроза будущего кажется неважной.

Интерес к управлению людьми через их психику - не изобретение XXI века.

Впрочем, ИИ - всего лишь инструмент в руках людей, которые могут использовать для влияния на общество. ИИ здесь - не злодей. Это просто идеальное зеркало, отражающее того, кто им пользуется. Шаманы, короли, газеты, психологи - всегда находился инструмент влияния. ИИ просто сделал его точным до микрона и незаметным до полного слияния с реальностью. Проблема не в машине. Проблема в том, что человек за свою историю так и не научился обращаться с властью иначе, чем через управление другими.

В 1950-х проект ЦРУ MkUltra использовал грубые инструменты: ЛСД, электрошок, изоляцию. Результаты были сомнительными.
В эпоху Холодной войны операции PSYOP работали через радио и листовки — вслепую, без обратной связи.
В 2014 году Facebook*(принадлежит Meta*, которая признана экстремистской организацией и запрещена в РФ) провел тайный эксперимент над 689 000 пользователей, намеренно насыщая их ленты позитивом или негативом. Эксперимент доказал: эмоции «заразны» через интерфейс, эмоциональным фоном масс можно управлять без их ведома.
Сегодня система социального кредита в Китае доказала, что поведение целого общества можно регулировать через геймификацию и рейтинги, встроив контроль прямо в повседневность.

Но ИИ выводит это на атомный уровень. Представьте систему, которая знает не просто то, что вы «любите котиков», а то, что вы «панически боитесь одиночества, потому что в детстве вас бросили». С такими данными можно управлять не просто толпой, а каждым человеком индивидуально, мягко и незаметно подталкивая его к нужным реакциям.

Радикальный акт трансгрессии

Главный вызов сегодня — не в том, чтобы запустить луддитский бунт и отказаться от алгоритмов. Это невозможно. Наша задача — сохранить в этом просчитанном мире свое право на хаотичность, спонтанность и аномальность мышления.

Подлинная свобода воли в эпоху надж-капитализма оказывается не в иллюзорном «выборе» между вариантами А и Б, заботливо подсунутыми системой. Она — в радикальном акте трансгрессии — выходе за пределы самой системы, диктующей правила игры.

Это способность понять паттерны, изучить свой «автопилот» и совершить аномальный прорыв туда, где старые законы аппаратов теряют силу. Дьявол кроется в деталях, и именно там, в самых тугих узлах повседневности, где путы затягиваются иначе, ведется тихая война за нашу сингулярность. И только от нашей осознанности зависит, сможем ли мы остаться авторами своих узоров, или окончательно превратимся в послушных функционеров внутри чужих идеальных сфер.

Прогресс и Технологии