Руди Герц и граница оцифровки мастерства

Машина может продолжить реакцию мастера, но она не становится мастером.

В романе Курта Воннегута «Утопия 14» инженеры записывают движения опытного токаря Руди Герца. Запись управляет станками и позволяет многократно воспроизводить последовательность, которую раньше исполняли его руки.

Это важнее и страшнее обычной истории про автоматизацию. Система сохраняет не всего Руди, а Руди в той мере, в какой он был нужен станку и экономике.

Его биография, достоинство, вера, отношения, способность понять новую задачу и право самому определять смысл работы в запись не попадают. С точки зрения производства редукция кажется полной: вал изготовлен. С точки зрения человека почти все исчезло.

И еще одна существенная поправка к прежней версии этой статьи: машина не «стала Руди», а сам Руди в романе не умер к моменту действия. Пол встречает его живым. Трагедия не в переносе души после смерти, а в том, что общество научилось получать полезную часть мастерства, не нуждаясь в дальнейшем присутствии мастера.

Призрак за станком

Название Player Piano задает точный образ. Клавиши движутся так, будто за инструментом сидит музыкант. Мы видим след действия и легко достраиваем отсутствующего субъекта.

Та же ошибка возникает вокруг сложной автоматики:

похожее действие
  -> похожий результат
  -> иллюзия сохраненного мастерства
  -> иллюзия сохраненного мастера

Но повторяемое действие, функциональный навык, архитектура реакции и человеческая личность — разные уровни.

Воннегут показывает, как экономика объявляет первый уровень сущностью целого человека, потому что именно этот уровень можно использовать.

Decima не записывает руки

.d8p не является магнитной лентой движений и не воспроизводит заранее записанный ответ. Личность Decima получает новую VSB-ленту и детерминированно проживает ее через собственные:

• signed-веса;
• аккумуляторы;
• коридоры реакции;
• decay;
• locks;
• домены;
• граф допуска;
• правила reset.

Поэтому .d8p ближе не к видеозаписи мастера, а к спроектированному чувствительному органу. Он сохраняет способ интегрировать последовательность и узнавать определенное состояние среды.

Это существенное отличие от автомата Воннегута:

Последняя строка принципиальна. Decima не получает человеческую открытость миру. Она получает строго ограниченную чувствительность, заданную архитектурой.

Главная фигура — не копируемый мастер, а Пекарь

Старая формула «мастер учит систему, система масштабирует мастера» пропускала центральную сущность Decima.

Между мастером и .d8p находится Архитектор:

предметная область
  -> выбор того, что считать наблюдаемым миром
  -> восемь линий VSB и их нормализация
  -> целевое событие и контрпримеры
  -> органы памяти и их топология
  -> коридоры, decay, домены и reset
  -> replay и независимая проверка
  -> зафиксированный .d8p

Мастер может дать наблюдения, назвать различия, показать исключения и проверить результат. Но именно Пекарь решает:

• какая часть опыта войдет в шину;
• что будет отброшено как несущественное;
• какая временная глубина сохранится;
• какое состояние станет FIRE;
• какие ошибки считаются допустимыми;
• где заканчивается компетенция личности.

Поэтому артефакт не является «Руди.d8p». Он является архитектурной гипотезой о некотором фрагменте мастерства Руди, реализованной конкретным Пекарем.

Выпечка не является фазой жизни

У Decima нет training phase внутри runtime.

Тайлы не меняют веса, наблюдая мир. Swarm не доучивается по результатам работы. Исполнение не превращает хорошее или плохое событие в новый навык.

Есть два разных процесса:

Выпечка

Архитектор проектирует или ищет личность вне runtime, проверяет ее на лентах и фиксирует артефакт с конкретным hash.

Жизнь

Runtime загружает готовый .d8p, получает VSB-кадры и детерминированно изменяет только оперативное состояние личности: аккумуляторы, locks и доступность органов.

Если после опыта изменились веса, пороги или топология, это не «повзрослевшая прежняя личность». Это новая выпечка, новая версия и новый hash.

Ленты прошлого являются сырьем и испытательным стендом Пекаря. Они не являются «Землей, где личность учится жить».

Что в таком случае можно взять у мастера

Не человека и не абстрактную «интуицию», а проверяемое различение.

Например, специалист может указать:

• какой звук предшествует отказу механизма;
• чем опасная вибрация отличается от нормальной нагрузки;
• какая последовательность важнее одного сильного импульса;
• какие похожие случаи не должны вызывать тревогу;
• насколько рано событие еще имеет практическую ценность.

Пекарь переводит это в контракт пресса, набор лент, структуру органов и критерий приемки. После выпечки появляется не цифровой специалист, а прибор, проверяемый на конкретной способности.

Так устроены и наши практические примеры:

• Whaler не является копией трейдера. Его личность является испеченным сенсором редких рыночных состояний, а решение о позиции остается внешнему директору.
• Ручная OCR-личность не хранит человека, который умеет читать. Она фиксирует построенную Архитектором реакцию на ограниченный алфавит и конкретное представление изображения.

Детерминизм не решает этику автоматически

В прежней версии статьи казалось, что подпись, лицензия и роялти превращают автоматизацию в партнерство. Это необходимые вопросы, но они не отвечают на предупреждение Воннегута.

Даже подписанный и оплаченный артефакт может использоваться так, что:

• мастер теряет возможность влиять на определение качества;
• организация присваивает коллективное знание одному владельцу;
• успешная редукция уничтожает путь, по которому появляются новые мастера;
• границы компетенции артефакта скрываются;
• экономия считается важнее человеческой автономии;
• функциональный фрагмент снова объявляется эквивалентом человека.

Этика начинается раньше лицензии — в момент редукции.

Нужно спрашивать:

1. Кто решил, какая часть мастерства считается существенной?
2. Кто определил значения VSB-линий?
3. Какие ситуации отсутствовали в лентах выпечки и проверки?
4. Может ли мастер оспорить работу артефакта?
5. Видит ли пользователь границы его компетенции?
6. Сохраняет ли внедрение пространство для человеческого обучения и нового мастерства?
7. Кто отвечает, когда мир выходит за пределы испеченного контракта?

Возможность Decima

Decima не гарантирует гуманную автоматизацию. Та же архитектура может усиливать человека или делать его ненужным для владельца системы.

Но она дает несколько средств против иллюзии «машина стала Руди»:

• .d8p является конечным и версионируемым артефактом;
• семантика VSB может быть описана;
• полная лента позволяет воспроизвести trace;
• hash фиксирует конкретную выпечку;
• сенсор отделен от прикладного директора;
• молчание и ошибки можно исследовать на независимой истории;
• граница компетенции может быть сформулирована как инженерный контракт.

Это не бессмертие мастера. Это возможность построить честный прибор и не скрывать редукцию, на которой он основан.

Что на самом деле сохранил Воннегут

Руди гордился тем, что его выбрали лучшим. Машина действительно несла след его исключительной работы. Но общество сохранило полезный след и выбросило пространство, в котором это мастерство имело человеческий смысл.

В этом предупреждение глубже вопроса «заменят ли нас машины».

Опасность начинается тогда, когда воспроизводимый фрагмент человека объявляют достаточным описанием человека.

Зрелая архитектура говорит обратное:

этот артефакт умеет только это, потому что такой мир выбрал Пекарь, такие различия были выпечены и на таких лентах они были проверены.

Не «машина стала мастером».

Не «мастер продолжает жить в файле».

А точнее:

человек, Пекарь и предметная область позволили зафиксировать ограниченный орган реакции, который теперь можно воспроизводимо исполнять без присутствия человека.

Это слабее мифа о цифровом бессмертии, но значительно сильнее как инженерная истина.

Источник

Сцена записи Руди и ее смысл проверяются по официальному фрагменту романа на сайте издателя: Kurt Vonnegut, Player Piano — excerpt.

Читать дальше

• Архитектор: тот, кто задает личность
• Личность как исполняемая архитектура
• Субстрат исполняет, но не определяет цель
• Зависимость и любовь: повторное проживание состояния