Хозяйский глаз алгоритма: размышление о книге Маттео Пасквинелли «Измерять и навязывать. Социальная история искусственного интеллекта»

Главное утверждение: Искусственный интеллект – это не восставший монстр Франкенштейна и не путь к неограниченным возможностям человечества, а скорее логическое развитие социальных технологий контроля, зародившихся в промышленном капитализме и достигших новой высоты в цифровую эпоху.

Итальянский философ и историк медиа Маттео Пасквинелли предлагает совершенно нетривиальное прочтение истории искусственного интеллекта, которое радикально отличается от привычных нарративов, доминирующих в популярных дискуссиях об ИИ. Вместо панических статей о грядущей сингулярности и восстании машин, вместо оптимистичных утопий о неограниченном прогрессе, Пасквинелли рассматривает ИИ как результат развития колониальной и классовой логики Запада, воплощенной в технико-экономических структурах.​

Критика господствующего нарратива

Книга начинается с полемики против доминирующего в публичном дискурсе взгляда на ИИ как на попытку искусственно воссоздать человеческий интеллект в машинах. Пасквинелли это категорически отвергает. По его мнению, интеллект машины никоим образом не является копией человеческого разума – это иллюзия, созданная благодаря удачному использованию антропоморфных метафор. Когда инженеры говорят о том, что машины «учатся», они привносят человеческую семантику в совершенно иные процессы – процессы статистического моделирования и проекции человеческой культуры в многомерные пространства данных.​

На фоне преувеличенных страхов перед «сверхразумом» Пасквинелли указывает на более насущную и конкретную угрозу: социальная природа ИИ, его связь с техниками измерения, надзора и контроля, которые формировались на протяжении последних трёх столетий. ИИ не выходит из-под контроля как независимая сила – наоборот, он является воплощением определённых форм общественного контроля, закодированных в технике.​

Трудовая теория машин и её применение

Центральная аналитическая рамка работы Пасквинелли построена на том, что он называет трудовой теорией автоматизации. Эта теория уходит корнями в XIX век – в полузабытые дебаты, известные как «вопрос о машинах», которые обсуждали такие фигуры, как Чарльз Бэббидж, автор первой концепции вычислительной машины, и английские политэкономы времён промышленной революции.​

Ключевой момент: автоматизация не начинается с попытки заменить рабочих. Она начинается с попытки автоматизировать умственный труд надзора. Когда на фабриках появились первые механизмы, потребовалась новая профессия – клерков, которые регистрировали и записывали результаты производства. Идея создания вычислительных машин (вроде аналитической машины Бэббиджа) возникла именно как попытка автоматизировать этот труд по надзору и учёту. Таким образом, современный ИИ – это не революционное ноу-хау, а продолжение логики XVIII-XIX веков, направленной на автоматизацию управления и контроля над трудом.​

Пасквинелли показывает, что машины никогда не были нейтральными инструментами. Они воплощают в себе определённые разделения труда, социальные иерархии и отношения власти. Как он пишет в книге, «двигателями» технического и политического развития выступают социальные отношения – в частности, трудовая кооперация». Машина – это кристаллизация способов организации коллективного труда, способов его контроля и измерения.​

От промышленного капитализма к цифровому надзору

Во второй части книги Пасквинелли прослеживает трансформацию от индустриальной эпохи к кибернетической революции XX века. Его главный аргумент: кибернетика расширила логику промышленного надзора на всё общество.​

Кибернетика, родившаяся в 1940-50-х годах в работах Норберта Винера и его коллег, построена на идее обратной связи и саморегуляции. Винер и другие кибернетики разработали математические модели, в которых мозг, телефонная сеть, экономическая система и военный контроль начинали казаться структурно эквивалентными – все они системы обработки информации и управления. Это было глубоко политическим актом: биология и социология начинали описываться в терминах, заимствованных из техники контроля и связи.

Из этой кибернетической традиции впоследствии возникли нейросети – коннекционистский подход к ИИ. Пасквинелли показывает, что первые нейросети (работы Маккалоха, Питтса, позже Розенблатта с его «Перцептроном») не были просто попытками понять человеческий мозг. Они были практическими попытками автоматизировать восприятие и распознавание паттернов – то есть функции, которые ранее выполняли люди при анализе визуальной информации, при сортировке, классификации и идентификации.​

В этом смысле современный ИИ – это машина восприятия и видения, машина, которая берёт на себя роль «хозяйского глаза». Метафора Фридриха Энгельса, заимствованная как название оригинальной версии книги (английское издание называется «The Eye of the Master»), становится центральной: хозяйский глаз – это практика надзора, измерения, контроля над рабочей силой. ИИ автоматизирует именно эту функцию.

Социальный интеллект против технического детерминизма

Несмотря на исторический фокус на развитии техники, Пасквинелли не является сторонником технического детерминизма. Его радикальный тезис звучит иначе: социальный интеллект формирует внутреннюю структуру алгоритмов ИИ.​

Это означает, что ИИ работает потому, что в него закодирована логика человеческого взаимодействия, разделения труда, социальных практик. Большие языковые модели вроде ChatGPT работают потому, что обучаются на текстах, в которых отражена вся история человеческой культуры, знаний, предрассудков и стереотипов. Системы распознавания образов работают потому, что воспроизводят в машинных операциях практики категоризации, которые люди выполняли на протяжении столетий.

Таким образом, интеллект машины – это не отражение биологического интеллекта, а статистическое отображение социальных отношений. И поскольку эти социальные отношения иерархичны, разделены по классам, полу и расе, в ИИ неизбежно кодируются все эти иерархии и дискриминации.​

Темная родословная: от краниометрии к машинному обучению

Особенно важная часть анализа Пасквинелли – его прослеживание расистских и евгенических корней статистических методов, лежащих в основе современного машинного обучения. В конце XIX века в Европе развивалась краниометрия – практика измерения черепов якобы для определения уровня интеллекта в корреляции с расой. Это была открыто расистская и псевдонаучная практика, но она изобретала статистические методы, которые позже были переиспользованы для психометрии (тестирования интеллекта) и, наконец, легли в основу машинного обучения.​

Пасквинелли утверждает, что это не просто исторический курьёз – это раскрывает, что сам фундамент современного ИИ пронизан колониальной логикой редукционизма, попытками свести человеческие различия к числам и затем классифицировать людей на основе этих чисел.

Новое разделение труда в эпоху ИИ

Пасквинелли видит главный вызов современности не в том, что роботы заберут работу у людей, а в том, что ИИ навязывает новое разделение труда, в котором коллективная деятельность людей оказывается пролетаризованной.​

На глобальном Юге миллионы людей выполняют невидимый труд по разметке данных, фильтрации контента, корректировке ошибок ИИ – работу, которая не требует квалификации и плохо оплачивается. Одновременно верхушка цифровой экономики (несколько мегакорпораций) узурпирует всё создаваемое знание и прибыль.

Парадоксальным образом, ИИ произвёл подмену: вместо того, чтобы заместить рабочих, он заместил их хозяев – управляющих и надзирателей. Но рабочие нужны больше, чем когда-либо: для производства данных, для оценки результатов ИИ, для его бесконечной оптимизации.​

Эпистемический империализм и вопрос о культуре

Пасквинелли вводит концепцию эпистемического империализма – абстрагирование технических концепций от реальных процессов производства в широком смысле. В XX веке это выражалось в том, что кибернетика и теория информации позаимствовали метафоры и модели из биологии и социологии, а затем эти же модели были переприменены к самим живым системам – как будто техника была первичной, а природа вторичной.​

Сегодня это проявляется в том, как ИИ-компании говорят о своих алгоритмах. Они позиционируют ИИ как новую форму разума, поднимающегося над ограничениями человеческого познания. На самом деле это просто инверсия: они берут человеческую культуру, человеческие знания, людей труд и переворачивают отношения, делая ИИ хозяином, а человека – его слугой.

Конструктивный выход: контр-интеллект и культура изобретательства

Несмотря на критический, местами мрачный тон анализа, Пасквинелли не заканчивается полным пессимизмом. Он призывает к развитию «контр-интеллекта» – формы критического знания, которое охватывает как историческое понимание происхождения ИИ, так и новую культуру изобретательства.​

Эта культура должна быть направлена на заботу о сообществах и коллективе, она должна никогда не отказываться от агентности интеллекта в пользу автоматизации. Для Пасквинелли это означает, что первый шаг противостояния гегемонии ИИ должен быть не технологическим, а политическим – и радикально политическим.

Книга вписывается в растущий корпус критических исследований об ИИ и автоматизации, которые занимаются формированием нового взгляда: от исследователей воздействия автоматизации на трудовые процессы до анализа закодированного в алгоритмах расизма и сексизма.

Почему это важно именно сейчас

Для мира, в котором мы живём, и особенно для России, книга Пасквинелли становится особенно актуальной. В условиях, когда развитие цифровых технологий всё чаще подчиняется логике национального суверенитета и государственного контроля, её анализ предостерегает нас от иллюзий технологического нейтралитета.

ИИ – это не просто инструмент, который можно взять и использовать для благих целей. В его архитектуре, в его алгоритмах, в способе его обучения уже закодированы определённые отношения власти. Пасквинелли показывает, что нельзя игнорировать эту историю, эту генеалогию контроля.

Книга особенно важна для этического хакера и критически мыслящего специалиста в области информационной безопасности. Понимание того, как работают алгоритмы, как они обучаются, какие предрассудки в них закодированы – это не просто академическое упражнение. Это основа для критического анализа всей инфраструктуры цифрового контроля, которая становится всё более пронизывающей все аспекты современной жизни.

Выводы

Маттео Пасквинелли предоставляет нам не пособие по безопасности ИИ и не утопию о его мирном использовании. Вместо этого он предлагает инструменты для понимания того, как в ИИ отражаются социальные иерархии, классовые отношения и колониальная логика Запада. Его книга – это приглашение к переоценке нашего отношения к технологиям в целом.

Главный вывод прост, но глубок: если мы хотим изменить ИИ, мы сначала должны изменить социальные отношения, которые его производят. Технология может измеряться и навязываться только потому, что общество уже разделено и иерархизировано. Полемика против ИИ – это в конечном счёте полемика против определённого устройства общества, против определённых способов организации труда и контроля над ним.

Автор критикует доминирующие нарративы о сингулярности и риске вымирания человечества. Пасквинелли указывает на то, что современный ИИ – это техника проекции человеческой культуры в многомерные пространства, а не имитация биологического разума. История статистики, измерения и контроля над обществом является ключом к пониманию ИИ. Полузабытые дебаты о машинах XIX века содержат важные для современности уроки. Логика автоматизации берёт начало в попытке автоматизировать труд надзора, а не физический труд. Социальные отношения и трудовая кооперация формируют техническое развитие. Кибернетика расширила логику промышленного надзора на всё общество в XX веке. Первые нейросети были практическими попытками автоматизировать восприятие и распознавание паттернов. Социальный интеллект, закодированный в человеческом поведении, формирует внутреннюю структуру алгоритмов. ИИ воспроизводит социальные иерархии и дискриминации, закодированные в обучающих данных. Статистические методы, лежащие в основе машинного обучения, имеют евгенические и расистские корни. Новое разделение труда пролетаризует коллективную деятельность людей. ИИ заместил управляющих, а не рабочих; рабочие нужны для производства данных и оптимизации. Эпистемический империализм отражает инверсию отношений между техникой и человеческой культурой. Противостояние гегемонии ИИ требует развития контр-интеллекта и политического действия. Особенно актуально в контексте национального суверенитета и государственного контроля над технологиями.