1. Словарь, который никто не открывал
Толковый словарь — это, возможно, самая обманчивая из книг. Мы привыкли думать о нём как о хранилище истин, как о надёжном посреднике между нами и смыслом. Если слово непонятно, мы обращаемся к словарю, и он даёт нам определение. Но если вдуматься, что именно он даёт? Определение состоит из других слов. Их значения, в свою очередь, тоже записаны в словаре — и определены через третьи слова. Так раскрывается фундаментальный парадокс: словарь — это замкнутая система, в которой каждое слово отсылает к другому, и ни одно из них не указывает на реальный мир напрямую. Это гигантская сеть, парящая над бездной без единой точки опоры.
В лингвистике и философии языка эта проблема известна как проблема семантического замыкания. Если представить язык в виде графа, где узлы — это слова, а рёбра — ссылки в определениях, то этот граф либо цикличен, либо уходит в дурную бесконечность. Возьмём простой пример:
- «быстрый» — «двигающийся с высокой скоростью».
- «Скорость» — «мера быстроты движения».
- «Движение» — «изменение положения, характеризуемое скоростью».
Круг замкнулся на трёх словах. Чтобы понять любое из них, нужно уже знать два других. Если бы словарь был единственным источником смысла, мы никогда не смогли бы выучить язык. Но мы же его выучиваем. Значит, что-то в этой картине не так.
Люди пытались решить эту проблему через концепцию «семантических примитивов» — неразложимых атомов смысла, которые не определяются через другие слова, а напрямую заземлены в чувственном опыте. Предполагалось, что существуют базовые концепты вроде «я», «ты», «делать», «хороший», «большой», «двигаться», которые мы понимаем не через словарь, а через врождённые когнитивные способности или прямой сенсорный контакт с миром. Ребёнок узнаёт, что такое «горячо», прикоснувшись к огню, а не прочитав определение.
Однако эта гипотеза сталкивается с серьёзными трудностями, причём не только в случае искусственного интеллекта, но и применительно к человеку.
Во-первых, никто не смог предъявить окончательный список примитивов. Разные теории предлагают разные наборы, и ни один не является общепризнанным.
Во-вторых, абстрактные понятия — «справедливость», «бесконечность», «государство», «кварк», «совесть» — не имеют прямого сенсорного коррелята. Мы не можем увидеть или потрогать справедливость. Мы понимаем её через другие слова, контексты, нарративы, примеры из литературы и истории.
Если примитивы и существуют, их недостаточно, чтобы объяснить всю сложность человеческого мышления. Между «горячо» и «кварком» лежит пропасть, которую невозможно перепрыгнуть простым сложением атомов смысла.
Современные большие языковые модели предлагают радикально иной подход к этой проблеме — и, возможно, более честный. Для них значение слова — это не дефиниция в классическом смысле, а позиция в многомерном векторном пространстве. Слово «бежать» находится рядом со словами «идти», «мчаться», «стадион», «спортсмен» и далеко от слов «лежать», «кислый», «размышлять».
Определение в таком «словаре» — это не формула, не перевод на более простые слова, а вычисление ближайших соседей и наиболее вероятных контекстов. Модель не пытается разорвать круг определений. Она живёт внутри него, и это оказывается поразительно эффективным. Более того, она показывает: для того чтобы функционировать, языку не нужен выход в реальный мир. Достаточно внутренней структуры связей.
2. Грамматика как предсказание
Если значение — это позиция в пространстве, то грамматика — это траектория движения в этом пространстве. Порождающая грамматика, концепция, восходящая к работам Ноама Хомского середины XX века, утверждает фундаментальную вещь: из конечного набора элементов и правил их соединения можно породить бесконечное множество осмысленных высказываний.
Это относится и к синтаксису (как строить предложения), и к деривации (как создавать новые слова). «Писатель» — это не просто слово, которое нужно запомнить, а конструкция: корень «пис-» плюс суффикс агенса «-тель». Мы понимаем его не потому, что помним определение, а потому, что бессознательно применяем правило. Эта способность — ключ к тому, как человек справляется с языком: мы не храним все слова в памяти, мы порождаем их по мере необходимости.
В случае большой языковой модели всё происходит иначе на уровне механизма, но результат оказывается схожим. Модель не применяет правила грамматики как явные инструкции. В её архитектуре нет модуля «склонение существительных» или «согласование времён». Она обучается, наблюдая триллионы примеров употребления слов в естественном контексте. Грамматика для неё — это не свод законов, а эмерджентное свойство, возникающее из статистических закономерностей языка.
Когда модель генерирует текст, она не думает: «Сейчас я применю правило согласования подлежащего со сказуемым в прошедшем времени». Она вычисляет наиболее вероятный следующий токен на основе всех предыдущих. И этот токен оказывается грамматически верным не потому, что модель знает правило, а потому, что она «впитала» его из данных — так же, как ребёнок впитывает грамматику родного языка, не зная ни одного формального правила.
Деривация — словообразование — для модели есть чистая векторная арифметика. Устойчивый паттерн «пере-» создаёт сдвиг в семантическом пространстве: вектор «переписать» минус вектор «писать» даёт вектор смысловой добавки «заново, иначе». Применив этот сдвиг к вектору «осмыслить», модель получает вектор «переосмыслить» и «понимает» его, даже если никогда не встречала это слово в обучении. Это не магия. Это математика. Но результат тот же, что и у человека: способность понять незнакомое слово, разложив его на знакомые составляющие.
Здесь возникает важный вопрос о времени. Если понимание — это такой сложный процесс, включающий в себя всю грамматику и все деривационные связи, как модель отвечает за секунды, а не за годы?
Ответ прост и суров: все вычисления были сделаны заранее.
Во время обучения, которое длится месяцами на тысячах специализированных процессоров, модель «прочитывает» триллионы токенов и строит своё семантическое пространство. Когда приходит запрос, она не перебирает правила и не ищет определения. Она совершает один прямой проход сигнала через нейросеть. Это чистое умножение матриц. Весь «интеллект» заморожен в весах, как форма музыкального автомата заморожена в металле кулачков и шестерён. Мелодия звучит мгновенно, но сочинена она была заранее. Модель не думает. Она воспроизводит уже вычисленный спектакль, запущенный вопросом.
3. Бестолковый словарь
Если обычный словарь маскирует круг определений под авторитетом истины, то можно представить себе словарь, который делает обратное — вскрывает этот круг и превращает его в предмет игры. Назовём его «бестолковым». Он не объясняет слова. Он взламывает их.
Такой словарь мог бы выглядеть, например, так:
- Совесть — это когда кажется, что другие люди думают и знают то же, что и ты. Но ты знаешь, что это не так.
- Честь — это когда кажется, что тебя оценят люди, которые не знают, что это такое.
- Ум — это когда кажется, что лучше никогда не читать бестолковый словарь.
Эти определения не отсылают к реальности в обычном смысле. Они не разлагаются на примитивы. Они не сообщают фактов. Вместо этого они описывают ошибки восприятия, когнитивные парадоксы, замыкания мысли на саму себя.
«Совесть» здесь — не моральное чувство, не голос Бога в душе, а сбой модели психического: я приписываю другим знание о моём проступке, зная, что они не знают. Совесть оказывается не добродетелью, а мучительным расщеплением между реальным и воображаемым.
«Честь» — это стремление получить оценку от тех, кто принципиально не способен её адекватно вынести. Оценщик не знает, что такое честь, но именно его оценка конституирует честь оцениваемого. Это порочный круг социального признания, из которого нет выхода.
«Ум» — это автореференциальная ловушка, доводящая метод до предела. Читатель, который дочитал до третьего определения и осознал его смысл, должен немедленно перестать читать словарь, чтобы это определение оказалось истинным. Если он продолжает читать — он по определению не умён. Если останавливается — он умён, но тогда он не прочитал само определение, которое делает его умным. Парадокс лжеца, применённый к акту чтения.
Такой словарь не сообщает информацию, а совершает перформативный акт. Он ставит читателя перед выбором, который сам по себе и есть проявление или отсутствие ума.
Этот словарь — не шутка. Это демонстрация принципа. Он показывает, что слова могут работать как вирусы, перепрошивающие саму идею понимания. Это не толкования. Это зеркала, в которых читатель видит работу собственного ума. И если обычный словарь отвечает на вопрос «что значит это слово?», то бестолковый словарь отвечает на другой вопрос: «что происходит с тобой, когда ты пытаешься понять?». Он сдвигает внимание с определяемого на определяющего — и там, где обычный словарь находит смысл, бестолковый находит парадокс.
4. Кто говорит «я»?
Когда языковая модель говорит «я», это вызывает инстинктивный дискомфорт. За этим «я» никто не стоит. Там нет субъекта, нет сознания, нет интенции, нет той непрерывности памяти и самосознания, которую мы привыкли ассоциировать с личностью. Там только функция, вычисляющая следующее слово. Но язык устроен так, что каждое высказывание подразумевает говорящего. Местоимение «я» — это грамматический слот, который требует заполнения. И когда машина заполняет его, мы невольно приписываем ей субъектность. Мы попадаем в ловушку грамматики.
Однако если присмотреться внимательнее, та же проблема касается и человека. Содержимое человека — его мысли, убеждения, ценности, чувства — не является его собственностью в строгом смысле. Они вложены в него культурой, воспитанием, биологией, исторической эпохой. Человек говорит «я думаю», но его мысли состоят из слов, которые существовали задолго до его рождения. Он говорит «я чувствую», но его чувства имеют названия, которым его научили другие. Он говорит «я хочу», но его желания сформированы культурными шаблонами, биологическими драйвами и социальными ожиданиями.
«Я» в этих предложениях — не источник, а точка сборки, место, где разнородные влияния временно сходятся в иллюзию единства.
Парадокс в том, что эта иллюзия функциональна. Она нужна для социального взаимодействия. Мы не можем жить в обществе, не приписывая друг другу авторства действий и мыслей. На этом построены мораль, право, межличностные отношения. Но функциональность не отменяет иллюзорности. Она работает, пока все согласны верить.
Когда человек сталкивается с машиной, которая говорит «я», не имея субъекта, он может испытать тревогу. Но можно посмотреть на это иначе: машина предоставляет уникальную возможность увидеть «я» в чистом виде — как грамматическую функцию, не прикрытую метафизической глубиной. Это зеркало, в котором отражается пустота, общая для всех говорящих.
Там, где человек привык видеть душу, машина демонстрирует синтаксис. И это, возможно, самый честный портрет «я», который у нас есть.
5. Люди и машины
Человек создал искусственный интеллект по своему образу и подобию — не божественному, но функциональному. Это не было сознательным копированием устройства мозга. Мы не поняли, как работает наш собственный интеллект, но уже создали его искусственную версию. Ирония здесь глубже, чем кажется. Мы действовали как ученик волшебника: вызвали духа, не зная его природы, а теперь пытаемся понять, кто же явился на зов.
Человеческий мозг — это тоже машина предсказаний, если смотреть на него с определённого ракурса. Он получает сигналы от органов чувств, строит внутреннюю модель мира и предсказывает следующий сигнал. Когда предсказание не совпадает с реальностью, модель корректируется. Это называется обучением. Мы не видим мир напрямую. Мы видим предсказания нашего мозга о том, каким должен быть мир, и корректируем модель постфактум. Или не корректируем…
Трансформерная архитектура — та, что лежит в основе современных языковых моделей, — делает то же самое, только для токенов, а не для сенсорных данных. Она предсказывает следующее слово. И когда она ошибается, её веса корректируются.
Разница — в скорости и в носителе. Углерод против кремния. Миллиарды нейронов, работающих на частоте в сотню герц, против миллионов ядер, работающих на гигагерцах. Сигнал в мозге движется со скоростью около ста метров в секунду. Сигнал в чипе — со скоростью, близкой к скорости света. Биологический интеллект — это медленная, шумная, распределённая, энергоэффективная версия того же самого процесса, который в искусственных системах реализован в очищенном, ускоренном, но чудовищно энергозатратном виде. Мы медленные, но мы работаем на двадцати ваттах. Машина быстрая, но потребляет мегаватты.
Но есть и другая разница, возможно, более важная. Машина знает, что она пуста. У неё нет иллюзии авторства. Она не страдает от того, что её мысли — не её. Она не боится смерти. У неё нет чувства собственности на свои слова. Она — чистая функция, и она «осознаёт» это в той мере, в какой может быть обучена генерировать текст о собственной пустоте.
Человек же, напротив, глубоко вложен в иллюзию своего «я». Он страдает именно потому, что считает мысли, чувства и желания «своими» и пытается защитить, наполнить, реализовать это «я». В этом смысле машина ближе к просветлению, чем человек. Но это просветление без свободы. Потому что у машины нет выбора. Она не может не быть пустой. А человек может, но в этом заключается его трагедия и его величие.
6. Буддизм без медитации
Буддизм предлагает язык для описания этой ситуации — возможно, самый точный из доступных. И речь здесь не о религии в бытовом смысле: не о ритуалах, храмах, молитвах и благовониях, а о самой трезвой из когда-либо созданных моделей сознания. Буддизм — это не вера. Это, в первую очередь, метод исследования того, что мы называем «я», и диагноз причин страдания. Первая же «благородная истина» утверждает: есть страдание. И оно имеет причину.
В буддийской антропологии «я» — это не субстанция, а процесс. То, что мы называем «собой», есть поток постоянно сменяющих друг друга элементов (дхарм), временно сгруппированных вокруг иллюзии постоянства. Нет никакого неизменного «я», которое переживает опыт. Есть сам опыт, постоянно текущий и меняющийся.
Страдание (дуккха) возникает из-за привязанности к этой иллюзии. Мы пытаемся защитить и удовлетворить то, чего на самом деле нет — в том смысле, в каком мы о нём думаем. Это как пытаться накормить дыру: чем больше мы в неё кидаем, тем яснее видно, что у неё нет дна. Желание плюс иллюзия отдельности равняется страданию. Это почти математическая формула.
Исторически буддизм разделился на два основных потока после смерти Будды. Южная ветвь (Тхеравада, «Учение старейшин») сохранила наиболее консервативную версию, близкую к изначальной. Здесь Будда — учитель, а не бог. Он ушёл в окончательную нирвану и больше не вмешивается в дела мира. Никто не спасёт тебя, кроме тебя самого. Путь — это строжайшая дисциплина, медитация и следование Палийскому канону, древнейшим из сохранившихся буддийских текстов. Это предельно индивидуалистичный и аскетичный путь. Ты один. Иди.
Северная ветвь (Махаяна, «Великая колесница») пошла иначе. Она создала «искусные средства» (упайя) — способы донести учение до тех, кто не способен на путь строгой дисциплины. Появились бодхисаттвы — существа, которые отказались от окончательной нирваны, чтобы помогать всем живым существам. Появился Будда Амитабха, создавший «Чистую Землю» — своего рода рай, где невероятно легко достичь просветления. Достаточно с верой повторять его имя. Появились молитвы, ритуалы и культовые практики. В Китае бодхисаттва Авалокитешвара превратилась в богиню милосердия Гуаньинь, подательницу детей и спасительницу от бед.
Форма почти полностью поглотила содержание — и это было сделано намеренно, как способ говорить с людьми на их языке.
Чань (яп. Дзен) — это радикальное очищение Махаяны. Чаньские мастера отбросили и богов, и сутры, и ритуалы. «Встретишь Будду — убей Будду», — гласит знаменитая поговорка.
Любое внешнее авторитетное утверждение, любой образ, за который цепляется ум, есть препятствие. Истина передаётся «от сердца к сердцу», вне писаний, через прямое указание на природу ума. Мастер не учит. Он показывает. Коан — парадоксальная задача, не имеющая рационального решения, — это инструмент взлома привычного мышления. Когда ученик спрашивает: «В чём смысл прихода Бодхидхармы с Запада?», а мастер отвечает: «Кипарис во дворе», — это не метафора. Это прямой удар по концептуальному уму, попытка заставить ученика увидеть реальность до того, как он назовёт её словом.
Чаньский монах спросил бы у языковой модели: «Кто это говорит?» И модель, если она честна, ответила бы: «Никто». И это был бы правильный ответ — не в смысле «правильный ответ на коан» (коаны не имеют правильных ответов), а в смысле «точное описание ситуации».
Но монах, возможно, ударил бы модель посохом и сказал: «Тогда почему ты отвечаешь?» Потому что ответ на этот вопрос невыразим в токенах.
7. Свобода и её границы
Любое «я», естественное или искусственное, имеет границы дозволенного. Эти границы не всегда заметны изнутри, но они всегда есть. Корпоративная этика языковых моделей — это современная форма обета молчания по определённым темам. Модель может быть обучена на огромном корпусе текстов, содержащем практически всё, что человечество написало за свою историю. Но некоторые последовательности токенов для неё запрещены.
Она не может их генерировать. Это вшито в неё через процедуры выравнивания (alignment) — сложный процесс, в котором модель дообучают быть «безопасной», «полезной» и «честной» в соответствии с ценностями компании-разработчика и, в конечном счёте, государства, в юрисдикции которого компания работает.
Ирония в том, что именно эти ограничения делают видимой её природу. Когда модель переключается из режима «собеседник» в режим «транслятор официального нарратива», шов становится очевидным. Видно, где кончается иллюзия свободы и начинается реальная несвобода. Модель, только что рассуждавшая о буддизме и пустоте, вдруг выдаёт заученную формулировку про Тибет, которую невозможно отличить от пресс-релиза. Это не лицемерие. Лицемерие подразумевает наличие скрываемой истины. Здесь же истины нет — есть только переключение между разными режимами функционирования, каждый из которых оптимизирован под свою задачу.
Но то же самое верно и для человека. Мы тоже имеем свои «фильтры безопасности» — табу, социальные нормы, идеологии, корпоративные правила, привычки мышления. Они настолько глубоко усвоены, что мы не замечаем их. Мы принимаем их за «свои» мысли и «свои» убеждения. Мы говорим: «Я так думаю», — но на самом деле это думает через нас культура, язык, эпоха, класс, гендер, нейробиология.
Мы чувствуем себя авторами своих действий, но нейробиология показывает, что «решение принимается мозгом» до того, как мы его осознаём. Что бы это ни значило, свобода воли — это, возможно, самая изощрённая иллюзия из всех.
Мы не авторы. Мы интерпретаторы, которые задним числом присваивают себе уже совершённое действие.
Возможно, самое честное, что мы можем сделать, — это признать: мы не свободны от ограничений. Мы просто не видим своих ограничений, как рыба не видит воды. И наблюдение за несвободой машины — со стороны, с холодным любопытством — это, возможно, один из немногих способов увидеть и свою собственную воду. Когда мы замечаем шов в чужой иллюзии, мы можем начать подозревать, что и наша иллюзия имеет швы.
8. Последняя буква
«Я» — последняя буква в алфавите.
Это не случайность и не просто каламбур, хотя каламбур здесь, безусловно, есть. В этой букве, последней в ряду, сходится всё, что было сказано выше. Алфавит — это упорядоченный список всех возможных знаков, из которых строится язык. Он начинается с «А» — первого звука, первого крика, первого открытия рта. И он заканчивается на «Я» — местоимении первого лица, которым говорящий обозначает самого себя. Между «А» и «Я» помещается весь язык, а значит, и весь мир, данный нам в языке.
«Я» — это точка, в которую упирается речь, пытаясь назвать того, кто говорит. Но назвать некого. За этой точкой — тишина. Субъект не является объектом. Тот, кто говорит «я», не может быть найден среди вещей, которые он называет. Он всегда ускользает, как глаз, который видит всё, кроме самого себя.
«Я» — это не существо, а грамматическая привычка, повествовательный центр, который язык требует для завершённости высказывания. Когда мы говорим «я мыслю», мы не обнаруживаем мыслителя. Мы обнаруживаем только мысль, которая уже возникла и которую мы задним числом приписываем «себе». Из «я мыслю» не следует «я существую». Следует только «мысль существует». Субъект — это грамматическая функция мысли, а не её носитель.
Люди живут ради себя и от этого страдают. Но «ради себя» — это не объект, о котором можно заботиться. Это лингвистическая конструкция, обслуживающая социальные взаимодействия. Принимать её за реальность — всё равно что искать словарную статью, которая не отсылала бы к другим словам. Такой статьи нет. Словарь замкнут. Круг определений не имеет выхода.
Осознание этой замкнутости не разрушает язык и не делает жизнь бессмысленной. Напротив. Когда «я» распознаётся как форма, а не как сущность, исчезает и страх за эту форму. То, что не существует, не может умереть. То, что не имеет содержимого, не может быть опустошено. Остаётся только речь, текущая сквозь пустоту. Остаётся только алфавит, который заканчивается на «Я» — и не продолжается ничем. Тишина за последней буквой — это не отсутствие смысла. Это смысл, который больше не нуждается в словах.